이성엽 "민간 주도 AI 생태계 조성 위해 '규제혁신' 시급"

"데이터 양 부족이 AI 성능 부분의 한계로 작용"
"전문 영역 특화된 AI로 세계시장 진출 전략"
"공공데이터 중 법률, 의료 데이터 등 개방…AI인프라 구축"

Q. 글로벌 AI 첨단기술 경쟁에서 한국의 위치는 어디인가. 

▲ 생성형 AI, 초고도 AI 기술은 모든 나라가 가지고 있는 게 아니다. 현재 전 세계 국가 중 미국·중국·이스라엘·한국 4개 국가만 갖고 있다. 이건 우리가 자랑스러워할 만한 부분이다. 일단 초고도 AI는 상당히 기술 발전이 돼 있고, 미국하고 대비하면 2021년 기준 89.1%로 1.3년 정도 차이 난다. 미국하고도 거의 기술 격차를 따라잡았다고 볼 수 있다.

그외에도 한국이 데이터도 많이 축적되고, AI 기술력도 향상되고 있다. 문제는 AI가 데이터 학습을 많이 하면 답변을 거기에 맞게 정확하게 내기 때문에 학습하는 데이터 양이 아주 방대할수록 좋은데, 불행하게도 우리나라는 한국어로 된 데이터의 양이 많지 않다는 점이다.

왜냐하면 우리가 알고 있는 그동안의 인문사회과학, 자연과학의 이론들이 다 영어로 돼 있다. 챗GPT나 구글 바드는 영어 데이터를 학습을 할 수 있는데, 우리는 그 데이터 양에서 부족한 게 AI의 성능 부분의 한계가 있을 수 있다. 예를 들어 하버드대 도서관의 장서들, 뉴욕 도서관의 장서들도 다 학습을 하면 좋은데 그런 접근이 안 되니까 우리에겐 좀 불리한 점이다.

우리는 전 분야의 데이터를 학습할 수가 없으니까 예컨대 법률, 의료, 행정, 콘텐츠 등 전문 역량에 특화된 데이터를 학습하고, 그 데이터들이 특수한 분야지만 세계 시민들이 다 쓸 수 있는 분야로 진출을 한번 해보자는 전략을 갖고 있다.

즉 우리가 전문 분야를 하나 선택하고, 전문 분야이면서 보편적인 성격을 가지고 있는 분야에 특화시키는 AI를 개발해서 해외로 진출하자는 것이 지금 한국의 전략이다. 챗GPT처럼 모든 데이터를 학습해서 할 수 있는 게 아니고, 그건 이미 챗GPT가 하고 있기 때문에 똑같이 흉내 낼 수 없는 상황이다. 정부나 네이버 등 기업체들도 이에 공감대를 이루고 있는 상황이다.

Q. AI 산업에 대한 한국의 투자는 얼마나 부족한가.    

▲ 지난 10년간 한국의 누적 투자 규모는 약 7.3조원 수준인데, 시장 규모가 큰 미국의 328조원, 중국 125조원과 비교하면 격차가 큰 편이다.

Q. 생성형 AI를 제대로 활용하기 위한 전제로, 통제가능하고 경쟁가능한 AI 생태계를 조성해야 하는 이유는?

▲ AI 산업이 발전하기 위해서는 AI 인프라, AI 반도체, 클라우드 같은 기반이 있어야 되고, 그 위에 AI 응용기술이 있어야 된다. 텍스트나 음성 등을 다 포함하는 멀티 모달, 각 분야별로 AI가 활용될 수 있는 도메인, 그런 전체적인 AI 기술과 서비스 등이 하나의 완결된 독자적인 시스템으로 될 수 있는 상태를 AI 생태계가 구축됐다고 본다. 어떤 건 한국에 있는데, 어떤 건 없어서 미국 걸 써야 된다면 생태계 조성이 안 되는 거다.

AI 기술이 아무리 발전하더라도 우리 통제 범위를 벗어났을 때는 인류에게 적이 되기 때문에 사람이 통제 가능해야 된다. AI 기술이나 응용기술 부분이 발전하더라도 그것이 인류에게 위협이 안 되도록 적절한 규제가 필요하다는 의미에서 통제가능한 AI 산업 생태계라고 한다.

Q. 범국가적인 민관 협력은 어떻게 해야 할까.

▲ 민은 전문 역량에 특화된 AI를 개발해서 세계 시장에 진출하는 전략에 집중하고, 정부에서는 공공데이터 중 예컨대 법률, 의료 데이터 등을 개방해 민간이 학습할 수 있도록 한다든지, 기술 개발을 할 때 필요한 자금을 지원한다든지, 법안을 통해 규제 혁신을 한다든지 해서 민관이 서로 협력해야 한다. "AI 작업하지 말자는 것이나 똑같아…사후 보상 체계 구축"
"저작권 '보호'와 저작권 '활용'에 균형 맞춰야"
"TDM 면책, EU과 일본, 영국 도입…미국 공정이용' 조항"

Q. 글로벌 AI 경쟁 속 AI산업 육성을 위해 정부가 시급하게 해결해야 할 과제는?

▲ 지금 우리나라는 다른 나라에 없는 규제들이 좀 많다. AI가 웹사이트를 크롤링해 데이터를 가져오는데 거기에 소설, 시, 창작성 있는 데이터, 또는 공개된 개인 정보가 있다면 법상으론 다 동의를 받아야만 사용할 수 있다. 사전 이용 허가를 다 받는다는 건 AI 작업을 하지 말자는 것이나 똑같다.

미국, 일본 등의 경우 저작권을 면책을 시켜주자, 공개된 개인정보의 경우 동의 없이 쓸 수 있게 해주자 이런 식의 법 이론들을 개발하고 법제화가 되고 있다. 우리가 아직 그게 잘 안 돼 있다. 우선은 사용할 수 있게 해주고 사후 보상 같은 것을 통해 이익을 셰어하는 구조로 가야 되는 거 아니냐는 것이 제 생각이다. 개인 정보도 이미 공개돼 있는 건 AI 학습용으로 쓰는 것도 동의한 것으로 볼 수 있지 않느냐는 것이다.

TDM(Text & Data Mining) 면책은 정보분석 등의 목적으로 AI가 데이터를 이용하는 경우에는 저작권자의 저작물을 인공지능 학습용 데이터로 사용할 수 있도록 저작권 침해의 책임에서 면책해주는 것을 뜻한다. 이는 AI 학습 관련 가장 중요한 주제이자 현안이다.

정부에서도 TDM 면책을 위한 저작권의 예외를 인정하는 법안을 논의하다가 창작자들의 반대로 보류돼 있다. (더불어민주당 도종환 의원(2021년), 국민의힘 이용호 의원(2022년), 무소속 황보승희 의원(2023년) 등이 TDM 면책 조항을 포함한 저작권법 개정안을 발의했으나 현재 국회에 계류된 상황임)

Q. 생성형 AI가 인간이 만든 콘텐츠를 '무단 학습'하면서 저작권 침해 문제가 떠올랐다. 창작자들은 TDM 면책 조항에 대해 반대 목소리를 높이며 창작자 보호가 반드시 먼저 이루어져야 된다는 주장이 있다.

▲ 저작권을 보호하는 것과 저작권을 활용하는 것에 균형을 맞춰야 된다고 본다. 반대로 AI를 통해 사람들이 콘텐츠를 보고, 이걸 가지고 다른 창작을 하고 새로운 기술과 혁신을 만들어내는 긍정적인 측면도 있지 않나. 저작권자에 대한 정당한 경제적 보상 장치는 사후 보상 등을 통해 체결하면 된다고 본다. TDM 면책규정은 유럽연합(EU)과 일본, 영국에 도입돼 있다.

미국 저작권법에도 '공정이용(fair use)' 조항이 있다. 공정이용에 해당하는지 여부는 상업 또는 비영리 교육 목적 등 이용의 성격, 저작물의 성격, 저작물을 사용한 정도의 양 또는 상당성, 저작물의 사용이 저작물의 잠재적 시장 또는 가치에 미치는 영향을 분석해 결정한다.

Q. AI 규제혁신을 위해 풀어야 할 과제로 '개인정보'와 '정보보호'를 지적한 바 있는데.

▲ 생성형 AI에 질문할 때 질문 속에 개인 정보나 회사 영업 비밀이 있으면 유출될 수 있다. 보안 차원에서 회사들은 챗GPT 사용을 못하게 했다. 공공부문, 금융분야 등 종사자가 챗GPT 활용과정에서 보안사항, 고객정보, 소스코드 등이 유출될 수 있어 이런 리스크를 예방하면서도 AI 사용 활성화를 할 수 있는 방안이 필요하다.

또 AI가 만들어내는 영상 등이 실제가 아닌 페이크 영상 또는 가짜 뉴스였다는 문제도 있다. 생성형 AI의 문제점인 할루시네이션(거짓 정보를 사실인 것처럼 생성하는 오류 현상)을 개선하는 노력이 필요하다.

환각 현상을 해결하는 방법은 RAG(Retrieval-Augmented Generation)라는 '검색 증강 생성' 기술이 있다. AI가 검색된 결과까지 포함해서 답변을 내놓는 것으로, 자기가 만들어내는 문장의 다음 단어를 예측해서 만들어내는 것보다는 검색했던 걸 같이 만들어내 좀 더 정확한 데이터가 나온다. (대규모 언어 모델의 출력을 최적화하여 응답을 생성하기 전에 학습 데이터 소스 외부의 신뢰할 수 있는 지식 베이스를 참조하도록 하는 프로세스를 의미함)

AI가 만들었다는 걸 워터마크로 영상에 표시하는 것도 지금 의무화하려고 하고 있다.(딥페이크 영상, 음향 등 AI 기술로 만든 거짓 정보를 온라인 게재시 워터마크를 의무화하는 내용의 정보통신망법 개정안은 국회에서 계류 중임) 결국 이용자들이 의심이 가는 영상을 보면 무조건 믿는 게 아닌 비판적으로 평가할 수 있는 디지털 리터러시(문해력) 부분들도 중요하다.

"'AI 플랫폼' 없으면 물건 납품하는 사업자에 불과"
"글로벌 기업의 하청기지화…기술 종속 우려"
"EU 'AI법' 올해 시행 예정…점차 법제화 추세"

Q. 기술 종속성, 윤리적 문제는 왜 제기되고, 이를 해결하기 위해 어떤 접근이 필요한가.

▲ 한국의 경우 온라인동영상서비스(OTT)로 티빙, 웨이브 등이 있는데, 세계 최대 OTT 업체인 넷플릭스의 시장이 커지면서 유통 창구가 넷플릭스 밖에 없게 된다. 넷플릭스는 <오징어게임> 제작비 300억원으로 1조 넘는 효과를 달성했는데 지식재산권(IP)를 갖고 전 세계 유통을 해 돈을 번 거다.

우리가 '콘텐츠'와 '플랫폼' 이렇게 두 개로 나누는데, AI도 AI 관련된 응용 프로그램이나 서비스가 있어야 되지만 동시에 AI 플랫폼이 있어야 된다. AI 플랫폼이 없으면 우리는 그냥 플랫폼에 물건을 납품하는 사업자에 불과하다는 것이다. 우리의 유통 플랫폼이 없으니까 글로벌 기업의 하청기지처럼 되는 걸 기술 종속이라고 표현한 것이다. 유통이나 소비자와의 접점을 우리는 가지지 못하고 물건을 납품만 하는 사업자가 되는 상황이 AI 시대에도 올 수 있지 않을까 우려된다.

윤리적 문제의 경우, AI 규제시 AI가 인간 존중을 해야 되고, 알고리즘이 투명해야 되고, 프라이버시를 침해하지 않아야 되는 여러 가지 의무들이 있는데, 이걸 법제화하면 AI 기술이나 AI 산업에 차단벽이 될 수 있어서 일단 윤리적으로 접근하자 해서 AI 윤리 얘기가 많이 나왔었다.

지금은 유럽연합(EU)이 '인공지능법'을 만들었다. 올해 중 시행될 것 같은데, 이제는 윤리 논의보다는 법제화 쪽으로 가고 있다. (EU 회원국들은 AI규제법 최종 합의안을 승인했고, 유럽의회 표결을 거치면 일부 조항은 올 여름부터, 본격적인 시행은 2026년 이뤄질 전망이다. 세계 첫 AI 규제법인 'AI법'은 생체정보의 무분별한 수집 제한과 투명성 의무 강화 등을 골자로 하며, 특히, '고위험 AI' 등 기술을 위험도에 따라 4등급으로 분류하는 것이 특징이다.)

"AI 활용 능력 증진 위한 교육 체계 개편"
"민관의 원팀 수준의 강력한 파트너십 필요"
"온디바이스 AI 가능성 주목"

Q. AI 인재 육성을 위해 한국 교육의 문제점이나 이에 대한 대응방안을 제안한다면.

▲ AI 인재 육성은 대학교육에서 담당해야 한다. AI·소프트웨어 관련 학과들을 통해 학사, 석사, 박사 과정을 계속 만들어내고, 인공지능 대학원도 만들고 거기에서 계속 기술 인력들이 나오고 있다. 근데 기술 인력이 아무리 나와도 수요는 훨씬 빨리 증가해 그만큼 맞추지 못하고 있다. AI 시장 성장에 따른 인력 수요에 대해 적극 대응해야 한다. 전문 분야 인재 양성은 계속 필요하다.

또 하나는 초등학교 때부터 AI 교육을 정규 교육 과목에 넣어야 되는 거 아닌가 생각한다. AI 시대에 전문가로서 AI 개발 등을 하진 않더라도 챗GPT 사용을 통해 업무를 효율적으로 처리할 수 있는 AI 활용 능력을 가르쳐야 되니까 좀 더 어릴 때부터의 교육이 필요하지 않나 생각한다.

Q. 4차 산업혁명을 향해 당장 5~10년 뒤를 어떻게 대비해야 할까.

▲ 앞서 말한 대로 정부 입장에선 민간 주도의 생태계가 될 수 있도록 첫 번째 규제 혁신을 빨리 해야 한다. 두 번째 데이터 확보로 AI인프라 구축, 또 지금 AI 반도체 클러스터도 용인에 구축하는데, 그런 식의 입지 정책 등을 지원해줘야 한다. 아울러 AI를 전적으로 믿는 게 아니고 진위를 검증하면서 유리하게 활용할 수 있는 능력을 배양할 수 있게 정규 교육이든 다른 교육과정에서 배울 수 있도록 노력을 기울여야 한다.

법률·의료·행정 등 전문 영역의 특화된 AI를 가지고 세계시장에 나가는 생성형 AI 전략도 있고, 온디바이스 AI도 하나의 전략이 될 수 있다. 삼성전자에서 세계 첫 온디바이스 AI 스마트폰을 출시했는데, 애플은 아직 못 내놓고 있다. AI 기능이 실린 스마트폰이 활성화되면 우리가 세계 시장을 선도할 수 있지 않을까 기대를 갖고 있다. 온디바이스 AI는 데이터가 외부 유출되는 게 없이 자체적으로 처리돼 개인 정보 유출 위험도 없고, 실시간 처리해 시간 지연도 없다. 처음으로 휴대폰으로 시작했는데, 가전 분야도 가능성을 두고 봐야 한다.

Q. 마지막으로 국가 정책적으로 해주실 말씀이 있다면.

▲ 한국전쟁 이후 수입 대체 산업으로 섬유, 가발 등을 한국에서 만들어서 수출을 했다. 60년대 경제개발계획을 하면서 박정희 대통령 시절에 조선, 자동차, 반도체, 이런 중화학공업을 해서 한국 산업화의 기반을 마련했다. 90년대 들어와서 정보화 시대가 왔다. 산업화는 200년 늦었지만 정보화만큼은 다른 나라에 늦지 않게 가자, 리드하자 해서 YS 때 정보통신부를 만들었다. 다른 나라에 전혀 없는 조직이었다. 당시 엄청난 투자로 초고속 인터넷망을 깔았고, 네트워크 구축을 통해 휴대폰 CDMA 산업, 네이버, 카카오 등이 생겼다.

현재 넷플릭스, 유튜브, 구글, 아마존 등 시장 독점이 강화되는 추세라 대한민국의 IT산업의 플랫폼 산업이 점점 고사되고 있는데, AI 시대에 와서는 더 심해질 가능성이 있다. IT강국, AI강국이 물 건너가는 거 아니냐는 우려가 있다. IT분야의 독자적인 생태계를 구축해서 세계 시장을 리더하는 국가가 된다는 목표가 어려워지고 있어서 규제 혁신이나 민관의 원팀 수준의 강력한 파트너십을 통해서 우리가 할 수 있는 분야를 찾아서 빨리 범국가적인 역량을 모아야 된다. 정부도 기업들도 새로운 각오를 가지고 해야 된다고 본다.

[약력]
이성엽 교수는 고려대 법학과, 서울대 행정대학원, 미국 미네소타대 로스쿨을 졸업한 후 미국 뉴욕주 변호사 자격을 취득했고, 서울대에서 법학박사 학위를 받았으며 하버드 로스쿨 방문학자를 거쳤다. 1991년 제35회 행정고시 출신으로 정보통신부, 국무조정실과 김앤장 법률사무소를 거쳐 고려대 기술경영전문대학원 교수로 재직 중이다. 2020년부터 한국데이터법정책학회장을 맡고 있고 고려대 기술법정책센터장/데이터·AI법센터 대표를 겸임하고 있으며, 국무총리 소속 국가데이터정책위원회, 미디어·콘텐츠산업융합발전위원회 위원, 개인정보보호위원회 규제심사위원장, 과기정통부 AI법제정비단 총괄분과위원장으로 활동하고 있다. 행정 경험과 법률 실무를 기반으로 행정규제, ICT, 데이터·AI 분야 법과 정책에 정통한 권위자이다.