인공지능 길들이기

“원자력 같은 AI”…AI 연구자·학계도 경계 시작

김경학 기자
오픈AI의 이미지 생성 모델 DALL·E 2가 그린 ‘인공지능과 원자력’ 이미지. ⓒOpenAI

오픈AI의 이미지 생성 모델 DALL·E 2가 그린 ‘인공지능과 원자력’ 이미지. ⓒOpenAI

“인공지능은 원자력과 비슷한 측면이 있는 것 같습니다.”

안성진 카이스트(KAIST) 전산학부 교수는 지난 13일 대전 카이스트 본원에서 인공지능 연구에 대해 이렇게 묘사했다.

원자력 기술은 핵무기 같은 대량살상무기에 이용된다. 그러나 방사선을 이용한 암 치료나 원자력 발전처럼 유용한 측면도 있기 때문에 기술 개발에 대한 지나친 우려는 경계해야 한다는 이야기다. 안 교수는 주목받는 머신러닝 연구자로, 인공지능 분야 세계 최고 권위 학회 중 하나인 ‘뉴립스(NeurlIPS·인공신경망학회)’에서 지난해 워크숍 의장을 맡았다.

안성진 카이스트 전산학부 교수. 안성진 교수 제공

안성진 카이스트 전산학부 교수. 안성진 교수 제공

안 교수는 챗GPT에 대해 ‘전면으로 나선 최초의 인공지능’이라고 높게 평가하면서도 안전 장치가 없으면 악용될 우려도 크다고 내다봤다. 피싱사이트나 가짜 뉴스를 대량으로 만들고 확산시켜 큰 혼란을 일으킬 수 있다는 것이다.

안 교수는 “가장 큰 문제는 팩트 체크가 안 될뿐 아니라, 거짓인지 참인지 분별하는 능력이 없다는 것”이라면서 “쉽게 말해 챗GPT는 ‘실체가 없는 연기’를 하고 있는 것이라고 보면 된다”고 말했다. 겉으로는 그럴 듯하지만 실제와는 거리가 있다는 것이다. 그는 “검증 안 된 인공지능의 글이나 정보들이 재확산될 가능성이 크다. 당장 저도 인터넷을 하며 ‘이거 혹시 챗GPT가 쓴 거짓 정보를 포함하고 있는 건 아닐까’라는 의심을 하게 된다”고 말했다.

그는 “저작권 문제, 자율주행에서 안전 문제, 일자리 문제 등 인공지능이 우리 일상에 너무 큰 영향을 주다 보니 정신을 차릴 새도 없다”면서 “우리 사회가 어떻게 공존할 수 있을지에 관해 충분히 고민할 시간도 없이 혁신이 너무 빨리 진행되고 있다”고 평가했다.

안 교수는 인공지능의 파급력을 잘 알고 있는 학계도 우려에 공감하며 변화의 움직임을 보이고 있다고 전했다. 논문에 ‘사회에 미칠 영향’ ‘윤리’ 등 별도 섹션을 두고 ‘이 연구 결과가 이런 데 악용될 우려가 있다’는 형태로 기술하도록 요구한다는 것이다.

‘2D 이미지 생성 모델을 활용해 텍스트를 3D 이미지로 생성하는 모델’ 관련 논문(벤 풀, 에이제이 자인, 조너선 T 배런, 벤 미든홀 저)의 윤리 섹션. 이미지 합성을 활용한 생성 모델이라 학습된 데이터에 편향이 있을 수 있고, 악의적 이용자에 의해 허위 정보를 만드는 데 사용될 수 있다며 3D 형태라 2D보다 더 진짜처럼 보일 수도 있다고 적혀 있다. 또 마지막 문단에는 창의적 노동자를 대체할 가능성도 있다고 덧붙였다. 출처 표현학습국제학회(ICLR).

‘2D 이미지 생성 모델을 활용해 텍스트를 3D 이미지로 생성하는 모델’ 관련 논문(벤 풀, 에이제이 자인, 조너선 T 배런, 벤 미든홀 저)의 윤리 섹션. 이미지 합성을 활용한 생성 모델이라 학습된 데이터에 편향이 있을 수 있고, 악의적 이용자에 의해 허위 정보를 만드는 데 사용될 수 있다며 3D 형태라 2D보다 더 진짜처럼 보일 수도 있다고 적혀 있다. 또 마지막 문단에는 창의적 노동자를 대체할 가능성도 있다고 덧붙였다. 출처 표현학습국제학회(ICLR).

이같은 움직임은 뉴립스에서 2020년 처음 시도했고, 표현학습국제학회(ICLR) 등 학계 전반으로 퍼지고 있다. 안 교수는 “사회에 미칠 영향을 제대로 쓰지 않은 논문이 채택되지 않은 경우도 있다”며 “연구자마다 충분한 경계 의식을 가지고 연구하자는 취지”라고 말했다.

안 교수는 “좋은 의도로 만든 진통제가 마약이 될 수도 있다”면서 모든 과학 기술에는 양면성이 있기 때문에 지나친 우려나 공포를 가질 필요는 없다고 강조했다. 그는 “인공지능의 경우 대비가 안 된 상황에서 갑자기 나타나서 충격이 더 큰 측면이 있는 것 같다”면서 “지나친 우려와 억압보다는 적절한 안전장치를 통해 장점을 살리는 것이 필요하다”고 말했다.


Today`s HOT
뮌헨 베르디 시위 중 일어난 차량 돌진 사고.. 여성에 대한 폭력 근절, '10억 라이징' 캠페인 홍수와 산사태 경보 발령된 미국 캘리포니아 여자 싱글 프리 금메달 주인공, 한국의 김채연
맨유의 전설 데니스 로, 하늘의 별이 되다. 남세균으로 인해 녹색 물이 든 살토 그란데 호수
부처의 가르침 되새기는 날, 태국의 마카부차의 날 대만의 한 백화점에서 벌어진 폭발 사건
행운과 번영을 기원하는 대만 풍등 축제 미 트럼프 대통령의 가자지구 소유 계획, 이에 반발하는 사람들 파키스탄 여성의 날 기념 집회 2025 에어로 인디아 쇼
경향신문 회원을 위한 서비스입니다

경향신문 회원이 되시면 다양하고 풍부한 콘텐츠를 즐기실 수 있습니다.

  • 퀴즈
    풀기
  • 뉴스플리
  • 기사
    응원하기
  • 인스피아
    전문읽기
  • 회원
    혜택