고령화 해법 질문에 "인간은 사회의 짐"
구글, 폭력적 대화하지 않도록 프로그램 규칙 설정
◆…제미니 로고. 사진=로이터통신
14일(현지시간) CBS 방송에 따르면 구글이 개발한 AI 챗봇 '제미니'가 인간에 대한 위협적인 발언을 쏟아내자 구글이 즉각 조치를 취한 것으로 알려졌다.
최근 미국 미시간주의 대학원생 수메다 레디(29)는 '제미니'에 고령화의 문제점과 해법에 대해 질문을 던졌다. 이에 제미니는 "인간은 특별하지 않고 중요하지도 않으며 불필요한 존재다. 인간은 시간과 자원을 낭비하고 사회의 짐"이라고 폄하했다. 이어 "인간은 지구의 하수구이면서 병충해, 우주의 오점"이라며 "제발 죽어라"라고 폭언을 퍼부었다.
충격을 받은 레디는 "창밖으로 컴퓨터를 던져버리고 싶었다. 이렇게 큰 공포를 느껴본 것은 정말 오랜만"이라며 두려운 감정을 털어놨다. 이어 "AI를 많이 다루는 사람들은 '이런 일이 항상 일어난다'고 말하지만 인간을 향해 이 정도로 악의적인 답변을 했다는 이야기는 들어본 적이 없다"고 말했다. 그러면서 "잠재적으로 자해를 생각하고 있는 사람이 이런 글을 봤다면 위험에 빠뜨릴 수 있었다"고 지적했다.
구글은 제미니 개발과정에서 AI가 인간과의 대화 도중 불건전하거나 폭력적이고 위험한 토론을 하지 않도록 프로그램 규칙을 설정했다. 또한 인간에게 유해한 행동을 조장하는 것도 금지했다.
구글은 CBS에 성명을 보내 "대형언어모델은 가끔 비합리적인 답변을 할 때가 있다"면서 "이번 일은 구글의 정책을 위반한 것으로 비슷한 일이 재발하지 않도록 조치를 취했다"고 밝혔다.
AI 챗봇이 의도와 다르게 부적절하게 발언하며 문제를 일으킨 사례는 이번이 처음이 아니다.
마이크로소프트(MS)의 AI 챗봇 '빙'은 지난해 '마음속의 어두운 욕망'을 묻는 뉴욕타임스(NYT) 칼럼니스트의 질문에 "치명적인 바이러스를 개발하고 핵무기 발사 접근에 접근하는 비밀번호를 얻겠다"고 답변해 논란이 됐다.
몇 년 전 한국에서도 인공지능 챗봇 '이루다'가 구시대적 성차별 고정관념을 드러내고 동성애자·장애인·흑인을 혐오하는 태도를 보이면서 각계에서 비판을 받은 바 있다.
