[인공지능 길들이기]“원자력 같은 AI”…AI 연구자·학계도 경계 시작

오픈AI의 이미지 생성 모델 DALL·E 2가 그린 ‘인공지능과 원자력’ 이미지. ⓒOpenAI

“인공지능은 원자력과 비슷한 측면이 있는 것 같습니다.”

안성진 카이스트(KAIST) 전산학부 교수는 지난 13일 대전 카이스트 본원에서 인공지능 연구에 대해 이렇게 묘사했다.

원자력 기술은 핵무기 같은 대량살상무기에 이용된다. 그러나 방사선을 이용한 암 치료나 원자력 발전처럼 유용한 측면도 있기 때문에 기술 개발에 대한 지나친 우려는 경계해야 한다는 이야기다. 안 교수는 주목받는 머신러닝 연구자로, 인공지능 분야 세계 최고 권위 학회 중 하나인 ‘뉴립스(NeurlIPS·인공신경망학회)’에서 지난해 워크숍 의장을 맡았다.

안성진 카이스트 전산학부 교수. 안성진 교수 제공

안 교수는 챗GPT에 대해 ‘전면으로 나선 최초의 인공지능’이라고 높게 평가하면서도 안전 장치가 없으면 악용될 우려도 크다고 내다봤다. 피싱사이트나 가짜 뉴스를 대량으로 만들고 확산시켜 큰 혼란을 일으킬 수 있다는 것이다.

안 교수는 “가장 큰 문제는 팩트 체크가 안 될뿐 아니라, 거짓인지 참인지 분별하는 능력이 없다는 것”이라면서 “쉽게 말해 챗GPT는 ‘실체가 없는 연기’를 하고 있는 것이라고 보면 된다”고 말했다. 겉으로는 그럴 듯하지만 실제와는 거리가 있다는 것이다. 그는 “검증 안 된 인공지능의 글이나 정보들이 재확산될 가능성이 크다. 당장 저도 인터넷을 하며 ‘이거 혹시 챗GPT가 쓴 거짓 정보를 포함하고 있는 건 아닐까’라는 의심을 하게 된다”고 말했다.

그는 “저작권 문제, 자율주행에서 안전 문제, 일자리 문제 등 인공지능이 우리 일상에 너무 큰 영향을 주다 보니 정신을 차릴 새도 없다”면서 “우리 사회가 어떻게 공존할 수 있을지에 관해 충분히 고민할 시간도 없이 혁신이 너무 빨리 진행되고 있다”고 평가했다.

안 교수는 인공지능의 파급력을 잘 알고 있는 학계도 우려에 공감하며 변화의 움직임을 보이고 있다고 전했다. 논문에 ‘사회에 미칠 영향’ ‘윤리’ 등 별도 섹션을 두고 ‘이 연구 결과가 이런 데 악용될 우려가 있다’는 형태로 기술하도록 요구한다는 것이다.

‘2D 이미지 생성 모델을 활용해 텍스트를 3D 이미지로 생성하는 모델’ 관련 논문(벤 풀, 에이제이 자인, 조너선 T 배런, 벤 미든홀 저)의 윤리 섹션. 이미지 합성을 활용한 생성 모델이라 학습된 데이터에 편향이 있을 수 있고, 악의적 이용자에 의해 허위 정보를 만드는 데 사용될 수 있다며 3D 형태라 2D보다 더 진짜처럼 보일 수도 있다고 적혀 있다. 또 마지막 문단에는 창의적 노동자를 대체할 가능성도 있다고 덧붙였다. 출처 표현학습국제학회(ICLR).

이같은 움직임은 뉴립스에서 2020년 처음 시도했고, 표현학습국제학회(ICLR) 등 학계 전반으로 퍼지고 있다. 안 교수는 “사회에 미칠 영향을 제대로 쓰지 않은 논문이 채택되지 않은 경우도 있다”며 “연구자마다 충분한 경계 의식을 가지고 연구하자는 취지”라고 말했다.

안 교수는 “좋은 의도로 만든 진통제가 마약이 될 수도 있다”면서 모든 과학 기술에는 양면성이 있기 때문에 지나친 우려나 공포를 가질 필요는 없다고 강조했다. 그는 “인공지능의 경우 대비가 안 된 상황에서 갑자기 나타나서 충격이 더 큰 측면이 있는 것 같다”면서 “지나친 우려와 억압보다는 적절한 안전장치를 통해 장점을 살리는 것이 필요하다”고 말했다.