경향신문

금융사 340억원 사기…홍콩 ‘딥페이크’ 충격

홍콩의 한 금융사 직원이 딥페이크(AI로 가짜 이미지를 생성하는 기술)로 만들어진 가짜 화상회의에 속아 2억홍콩달러(약 342억원)에 달하는 거액을 사기당한 것으로 전해졌다.지난 4일 사우스차이나모닝포스트(SCMP)에 따르면 홍콩 경찰 당국은 지난 2일 브리핑을 열고 한 다국적 금융그룹의 홍콩지부 직원이 딥페이크로 인해 피해를 입은 사건을 소개했다. 해당 기업이 어디인지는 알려지지 않았다. 경찰에 따르면 이 직원은 최근 영국에 있는 본사의 최고재무책임자(CFO)로부터 거액의 돈을 비밀리에 송금할 것을 요구하는 e메일을 받았다. 처음엔 피싱 메일로 의심했으나, CFO는 물론 자신이 아는 동료들이 참석한 화상회의에서도 같은 지시를 하자 의심을 접고 돈을 보냈다. 하지만 나중에 본사에 확인한 결과 화상회의를 비롯한 모든 게 사기였다는 사실이 밝혀졌다. 사기꾼 일당이 CFO와 회의에 참석한 모든 직원의 얼굴을 딥페이크로 재현해 해당 직원을 속인 것이다.홍콩 경찰에 따르...

21:32

챗GPT, 내 정보 함부로 쓰지 마!

앞으로 병원이나 의료 관련 업체가 암과 골밀도 감소 여부를 진단하는 인공지능(AI) 연구·개발 때 환자의 CT·MRI 같은 영상에 나타난 환자 번호와 성별 등은 지워야 한다. 처리 여부는 추가로 검수하고, 연구 목적 달성 후에는 바로 데이터를 파기해야 한다.또 기업이 도로주행 상황 촬영 영상을 학습해 자율주행차를 개발할 때는 행인과 차량 탑승자의 얼굴, 차량 번호판을 컴퓨터가 식별할 수 없는 수준으로 가리고, AI 챗봇 개발 시에는 e메일과 ID(신분) 등 개인이 식별될 수 있는 항목을 가명 처리해야 한다.이처럼 챗GPT 같은 생성형 AI 기술 개발에 핵심적으로 쓰이는 ‘비정형 데이터’에 대한 사용 기준이 나왔다. 개인정보보호위원회는 기존의 ‘가명정보 처리 가이드라인’을 개정해 비정형 데이터에 대한 가명 처리 기준을 새롭게 마련했다고 4일 밝혔다.비정형 데이터란 사진과 이미지, 비디오, 통화음성, 대화 기록, 블로그 등 구조화되지 않은 것으로, 전...

22:00

총선 앞 한국도 ‘AI 악용’ 비상

말투까지 따라하는 ‘로보콜’미 13개주 AI 선거 방지 추진국내선 29일부터 활용 금지 선관위, ‘감별반’ 본격 운영포털도 ‘총선 섹션’ 등 대응한국의 제22대 총선과 미국 대선 등 굵직한 선거의 해를 맞아 인공지능(AI)이 선거에 악용될 가능성에 대한 우려가 커지고 있다.이미 미국에서는 조 바이든 대통령 목소리를 흉내 낸 ‘가짜 전화유세’가 나돌아 비상이 걸렸다. 국내에선 이번 총선부터 이른바 ‘딥페이크(AI를 이용한 모조 영상이나 목소리 등)’를 이용한 선거운동이 금지된다. 지난 대선에서는 ‘AI 윤석열’ ‘AI 이재명’을 내세운 사이버 유세까지 선보였으나 이번 총선에선 어려울 것으로 보인다.28일 정치권 등에 따르면 중앙선거관리위원회는 총선을 앞두고 공직선거법에 따라 29일부터 딥페이크를 통한 선거운동을 금지한다. 다만 당내 경선이나 투표 참여 권유, 의정활동 보고 등에 딥페이크 영상을 활용하는 것은 허용된다.활용이 금지되는...

20:42

팝가수 스위프트 ‘성착취’ 딥페이크까지…나델라 “안전장치 필요”

세계적인 팝가수 테일러 스위프트의 얼굴을 합성한 ‘딥페이크’ 성착취물이 온라인을 통해 퍼지면서 큰 파장을 일으키고 있다. 마이크로소프트(MS)의 사티아 나델라 최고경영자(CEO·사진)와 백악관까지 규제 필요성을 강조했다.인공지능(AI) 산업 선두주자 중 하나인 MS의 나델라 CEO는 27일(현지시간) NBC 방송 인터뷰에서 스위프트 사건을 두고 “걱정스럽고 끔찍하다”고 말했다. 그는 “(딥페이크와 싸우기 위해) 우리는 빨리 움직이고 행동해야 한다”면서 안전장치가 필요하다고 강조했다. 그는 “온라인 세상을 안전한 환경으로 만들어야 우리 모두에게 이롭다고 생각한다”면서 “AI 기술과 관련한 안전장치를 마련해 안전한 콘텐츠가 생산될 수 있도록 하는 것은 우리의 책임이다. 법과 집행 기관, 기술 플랫폼이 함께할 때 더 많은 것을 규제할 수 있다”고 덧붙였다.앞서 MS는 스위프트의 딥페이크 이미지가 MS의 AI 생성 도구인 ‘디자이너’로 만들어졌다는 의혹이 제기되...

20:42

오픈AI, 미 민주당 의원 ‘선거운동용 챗봇’ 개발 금지

오픈AI가 최근 미국 대선 민주당 경선 후보인 딘 필립스 연방 하원의원의 챗봇인 ‘딘닷봇(Dean.Bot)’ 개발을 금지했다고 워싱턴포스트(WP)가 21일(현지시간) 보도했다. 이는 오픈AI가 자사의 인공지능(AI) 기술이 선거 캠페인에 오용되는 것을 막기 위해 취한 첫 번째 제재 조치다.오픈AI는 성명에서 “정치 캠페인에 이용하면 안 된다는 앱 프로그래밍 인터페이스(API) 사용 정책을 고의로 위반하거나 동의 없이 개인을 사칭한 개발자 계정을 삭제했다”며 “우리 도구를 이용하는 사람은 누구나 사용 정책에 따라야 한다”고 밝혔다. 딘닷봇을 개발한 AI 스타트업 델파이의 계정이 정지됨에 따라 현재 챗봇은 삭제된 상태다.딘닷봇 개발은 필립스 의원을 후원하는 슈퍼팩(특별정치활동위원회)에서 낸 아이디어로, 이들은 오픈AI의 챗GPT 대화 소프트웨어로 유권자들과 실시간으로 대화를 하는 챗봇을 운영할 계획이었다. 챗봇 활용 찬성론자들은 “적절하게만 쓰이면 후보자를 알아가는 흥미로...

21:32

“추워” 말하자 차가 답했다…“좌석 따뜻하게 할게요”

폭스바겐, 올 2분기부터 탑재 예정이야기 주고받고 인터넷 검색도BMW도 ‘지능형 개인 비서’ 적용올해 2분기부터 폭스바겐 차량에는 오픈AI의 인공지능(AI) 챗봇 ‘챗GPT’가 탑재된다. 메르세데스-벤츠와 BMW 등도 AI 챗봇을 자사 차량에 도입하는 방안을 추진 중이다. 앞으로는 운전 중 챗봇과 대화하거나 인터넷을 검색하는 일도 가능할 것으로 전망된다.폭스바겐은 지난 12일 막을 내린 세계 최대 가전·정보기술(IT) 박람회 ‘CES 2024’에서 챗GPT가 적용된 지능형 음성비서 ‘아이다(IDA)’와 해당 서비스가 탑재된 ‘골프 GTI’를 선보였다. 운전대에 있는 음성인식 버튼을 누르거나, 영어로 “안녕, 아이다(Hello, IDA)”라고 말하면 아이다가 활성화한다.폭스바겐이 공개한 영상을 보면, 골프 GTI에 탄 운전자가 “춥다”고 말하자 아이다가 “왼쪽 좌석을 따뜻하게 하겠다”고 답한다. 곧바로 운전석 온도가 2도 더 높아졌다. ...

21:58

레시피 알려주고 반려동물까지 돌보는 AI 집사…삼성, ‘볼리’ 공개

“손님들이 오기 전에 저녁을 준비해야겠어. 볼리(사진), 핑거푸드(손으로 집어 먹는 음식) 레시피 좀 띄워줄래?”집 안 곳곳을 굴러다니는 둥글고 넓적한 노란색 로봇의 이름은 ‘볼리’. 사용자의 주문을 즉각 알아듣고는 주방 벽 한쪽에 ‘최고의 파티 음식 레시피’를 띄워준다. 삼성전자는 CES 개막 전날인 8일(현지시간) 미국 라스베이거스 컨벤션센터 전시관에서 인공지능(AI) 컴패니언(동반자) 볼리를 공개했다.볼리는 사용자의 말과 행동을 학습해 스스로 진화하는 AI다. 일상 속 크고 작은 불편함을 해소해주고, 사용자가 외출 중에는 집 안을 모니터링하며 반려동물·어린이 등을 돌봐주기도 한다.특히 공간을 인식해 집 안 지도를 스스로 완성하고, 가전 등 여러 기기를 삼성전자 원격제어 플랫폼 ‘스마트싱스’와 연동해 쉽게 관리하고 제어할 수 있도록 돕는 기능도 갖췄다.아울러 프로젝터를 탑재해 벽, 천장, 바닥 등에 사용자가 필요로 하는 정보나 영...

22:49

“AI는 공감지능” LG의 발상전환

조주완 LG전자 최고경영자(CEO, 사진)는 미국 라스베이거스에서 열리는 세계 최대 가전전시회 ‘CES 2024’ 개막 전날인 8일(현지시간) “인공지능(AI)은 고객경험을 완전히 새로운 패러다임으로 끌어올리기 위한 가장 필수적인 요소 중 하나”라며 “우리의 초점은 AI가 실생활에서 어떻게 변화를 일으켜 고객에게 실질적인 이점을 제공하는지에 있다”고 말했다.조 대표는 이날 라스베이거스 한 호텔에서 열린 사전 미디어 콘퍼런스 ‘LG월드 프리미어’에서 “AI는 사용자를 더 배려하고 공감해 차별화된 고객경험을 제공한다는 의미에서, 인공지능을 ‘공감지능(AI·Affectionate Intelligence)’이라고 재정의할 수 있다”며 이같이 말했다.조 대표는 공감지능의 특징으로 먼저 ‘실시간 생활 지능’을 꼽았다. 그는 “오늘날 전 세계적으로 집, 모빌리티, 상업공간 등에서 약 7억개의 LG제품이 사용되고 있으며, 여기에는 AI 지원 지능형 센서가 탑재돼...

21:41

똑똑해진 냉장고·세탁기…집 안을 AI로 ‘초연결’

한종희 삼성전자 부회장 콘퍼런스차세대 TV ‘AI 스크린 시대’ 열고로봇청소기의 라이다로 공간 매핑3D ‘맵 뷰’ 통해 기기들 통합 관리한종희 삼성전자 대표이사 부회장(사진)은 세계 최대 가전·정보기술(IT)전시회 ‘CES 2024’를 하루 앞둔 8일(현지시간) “누구나 쉽고 안전하게 일상생활에서 인공지능(AI)을 활용할 수 있도록 노력하겠다”고 말했다. 삼성전자는 이날 AI 기능을 대거 적용한 TV·냉장고 등 가전제품들을 소개했다.삼성전자는 이날 미국 라스베이거스에서 ‘모두를 위한 AI: 일상 속 똑똑한 초연결 경험’이라는 제하에 프레스 콘퍼런스를 열었다. 한 부회장은 “삼성전자는 기술을 넘어 산업계 전반을 재구성하고 삶을 보다 편리하게 하는 AI를 구현하고자 10년 넘게 투자해왔다”며 “앞으로도 누구나 쉽고 안전하게 일상생활에서 AI를 활용할 수 있도록 하겠다”고 말했다.AI 기능을 담은 제품군도 제시했다. 우선 차세대 AI 프로...

21:40

챗GPT 시대의 결론, 모든 가전은 AI로 통한다

식재료 목록 만들어주는 냉장고온습도 자동으로 조절해주는 집반려동물 진단 보조서비스까지삼성·LG·SK 등 AI 집중 조명자동차 전장시스템 통합 소개도“우리의 미래는 그 어느 때보다 더 똑똑해지고 있습니다. 챗GPT는 진지한 관심 대상이 되고 있습니다. 오늘 연설을 인공지능(AI)으로 시작하게 된 것도 결코 우연이 아닙니다.”세계 최대 가전·정보기술(IT) 전시회 ‘CES 2024’를 이틀 앞둔 7일(현지시간), 행사를 주최하는 미국 소비자기술협회(CTA)의 브라이언 코미스키 담당이사는 글로벌 미디어를 상대로 진행한 사전 브리핑에서 이같이 말했다.오픈AI의 생성형AI 챗GPT 등장 이후 1년2개월 만에 열린 이번 CES에 참가한 4000여개의 전시 기업들을 관통하는 주제는 ‘AI’였다. 코미스키는 “반도체에서 로봇에 이르기까지, AI 생태계는 여느 때보다 커지고 있다”고 덧붙였다.참가기업 중 가장 넓은 3934㎡ 규모의 전시관을 ...

21:39