AI, 생태계가 승부 가른다… "페라리도 잘 닦인 도로 필요"

"성능보다, 생태계가 승부 가른다"

"기술 수준보다, '방향성'이 중요"

AI 기술 수준, 우리 생각보다 빨라… 법·제도, 사회 구성원 합의 필요

"똑똑한 것보다 더 중요한 것은, 사회 수용성"

이번에는 이미 한 차례 내 보낸 AI 관련 전문가 인터뷰에 이어진 후속 편이다.

AI와 관련된 여러 문제들 중 AI 산업이 어떤 방향성을 갖고 나아가야 하는지, 인공지능의 신뢰성, 윤리성, 책임성과 기준 등은 어떤 문제들을 갖고 있는지, AI 생태계에서 사회적 수용성이 왜 중요한지 등 다양한 쟁점들을 질의 응답 형식으로 풀어냈다.

인터뷰는 지난 13일 법무법인 원에서 진행했으며, 정석윤 변호사(법무법인 원)와 씽크포비엘 박지환 대표가 참석했다. 인터뷰를 2회(②-1, ②-2)에 걸쳐 연재한다. [편집자주]
A. 박지환 대표 : 세계 수준이라면 아마도 지금 이 분야에서 가장 독주하고 있는 미국 수준을 말씀하실 것 같다. 우선 미국과 우리나라 수준을 비교할 수 있을 것 같고, 또 우리나라와 그 외 다른 나라의 기술을 비교할 수가 있을 거다.

그런데 그보다 기술의 정의가 뭐냐? 하드웨어나 퍼포먼스 상의 속도를 기술이라고 할거냐, 아니면 정확성을 기술이라고 할 것이냐의 문제가 있다.

똑똑함을 기준으로 한 인공지능인지, 아니면 똑똑함은 덜 하지만 착하거나 올바름을 기준으로 우리가 기술을 정의할 것인지가 먼저 고려돼야 한다고 본다.

이런 문제를 전제로 하드웨어적인 기술과 소프트웨어의 구현 기술 면에서 미국과의 격차가 벌어진 것은 맞다.

그런데 이런 격차를 기술 자체의 따라잡지 못할 격차로 봐야하는지, 아니면 어떤 방향성을 따라잡는다는 것인지가 아직 명쾌하게 정립된 상황이 아닌 것 같다.

우리가 인공지능 기술을 통해 이루려는 목표가 무엇이냐에 따라 격차가 벌어진 것일 수도 있고, 아니면 하지 말아야 될 것들을 우리가 쫓아가는 것일 수도 있기 때문에 평가가 쉽지 않다.

A. 정석윤 변호사 : 아마 Open AI의 챗GPT가 촉발되면서 우리나라의 기술 수준은 어느 정도나 될까하는 의문을 가지게 되셨을 것이다. 일단 생성형 AI 측면에서 보면 미국이 가장 선도적인 위치에 있고, 우리나라의 경우 아직 그것 만큼의 기술을 내놓은 것이 없기 때문에 아직 후발 주자인 것은 맞다.

그러면 과연 우리나라는 생성형 AI를 Open AI나 마이크로소프트(MS)나 구글에서 하는 것처럼 꼭 개발해야만 하느냐, 그 부분은 앞으로의 상황에 따라 그렇지 않을 수도 있다고 생각한다.

이를테면 미국에서 개발한 생성형 AI를 가지고 필요한 서비스를 제공하는 것으로도 충분할 수 있기 때문에 기술 수준을 일반화해서 말하기는 어렵지 않을까라는 생각이다.

Q. 핵무기처럼 윤리적 문제가 AI 개발 과정에서도 불거질 수 있고, 어떤 방향성에 대해서는 아직 합의된 내용이 없다는 말씀이신가요?

A. 박지환 대표 : 일단 저는 그렇게 본다. 예를 들어 원자폭탄을 만들었고 그 기술은 격차가 이미 벌어졌는데, 전 세계적으로 합의해서 원자폭탄은 인류에게 위험하니 이제부터는 만들지 말자고 한다면 그 기술은 따라잡아야 할 목표는 아닌 것이 된다.

한편으로 일부 핵심 기술만 써서 에너지 분야에 한정한다면 그럼 따라잡을 수 있는 범위가 생기는 것이다. 그런데 아직 이런 것들에 대한 개념, 범주, 목표 등이 다 불확실하다보니 여기에 대해 비교를 하는게 과연 올바른 대답을 할 수 있는지 의문이 든다는 말씀을 드린다.

Q. 우리나라의 AI 정책 방향을 위한 민관 협의체 수준과 그를 뒷받침할 법적, 제도적, 정책적 지원 정도(상황)도 궁금하다.
A. 박지환 대표: 아직은 산발적이고 파편화된 것 같다는 생각이 든다. 그런데 생각해보면 5년 전 우리가 초거대 AI가 나올 줄 몰랐고, 사실 초거대 AI가 나오면서 윤리 문제가 부각될 줄 몰랐다. 그리고 이에 부가적으로 개인정보보호법의 문제, 저작권법의 문제가 불거질 줄도 몰랐다. 미리 알았더라면 전체 로드맵을 짰겠지만, 그런 면에서 초기에는 산발적으로 대응하는 문제는 어쩔 수 없는 측면이 있다.

하지만 어느 시점부터는 이런 것들을 통합해서 전체적인 관점에서 문제를 재분류하고, 풀어나가야 한다는 생각이다.

Q. 아직은 초보적이고, 좀 더 진행되는 과정들을 살펴봐야 하는 시기라고 이해하면 될까요?

A. 정석윤 변호사 : AI에 대한 국가 차원의 정책을 입하는 데에는 여러가지 측면이 고려돼야 한다.

산업적 측면에서는 AI 기술을 빨리 발전시키는 데 국내 AI 산업의 경쟁력을 국가가 지원해야 되는 측면도 있고, 반면에 기술 발전의 속도보다도 우리가 신뢰할 만한 AI를 만들어야 한다는 차원에서 기술발전 과정에 대한 일종의 가이드라인을 갖추어야 한다는 측면이 있을 수 있다.

이처럼 상충될 수 있는 두 가지 관점에서 균형을 찾아야 하는데, 그에 대한 논의는 이제 시작하는 단계이고 아직 충분하지 않다.

Q. 챗-GPT 이후 GPT-4 버전까지 나온 것으로 알고 있는데요, 과거 인류사적으로 큰 변화를 가져왔던 산업혁명이나 정보혁명 등에 비춰봤을 때, AI가 가져올 변화가 세계사적으로 어느 정도라고 예측해 볼 수 있을까요?

A. 박지환 대표 : 챗-GPT의 경우, 우리 사회가 윤리적 기준이 뭔지, 그걸 통제할 수 있는 기술이나, 법과 제도적인 뒷받침이 전혀 준비가 안된 상태에서 기술이 먼저 툭 튀어 나왔다. 그러니까 걱정이 많아지는 것이다. 그리고 이 기술이 우리가 생각하는 것보다 더 빨리 올라와 있다.

챗-GPT의 경우 매개변수가 1750억 개인데, GPT-4는 1조 8천억 개 정도라고 한다. 이 갭이 불과 1~2년 사이에 발생했다. 또 알파고가 이세돌을 이기는 데는 2년, 알파제로가 알파고를 이기는 데는 두 달밖에 안 걸렸다. 이런 속도를 봤을 때 우리가 여유 있게 있을 시간이 아닌 것 같다. 위기가 오고 있다.

그러면 AI의 변화가 우리 사회 곳곳에 영향을 미칠텐데, 증기기관으로 산업혁명이 시작됐을 때도 예상하지 못한 사람들이 많았겠죠, 그렇듯이 지금 AI에 대해서도 많은 학자들이 얘기는 하고 있지만 일반인들은 아직 실감을 못하고, 답이 안 나온 것으로 볼 수 있잖나, 지금은 미래를 예상하기보다는 준비하는 게 맞다고 본다.

그것을 좋다 나쁘다를 판단하는 게 아니라 어떻게 합리적으로 준비해 나갈 것이냐에 초점을 맞추는 게 우리가 가야할 방향이 아닐까 싶다. 예상하는 게 의미가 없을 수 있다고 본다.

A. 정석윤 변호사 : 저도 같은 생각이다.  챗-GPT로 인하여 AI에 대한 관심이 증폭되었지만 사실 이제 시작인 셈이다. 그리고 말씀하신 것처럼 AI로 인한 시대의 변화가 어디까지 갈지, 우리 생활에 얼마만큼의 영향을 미칠지는 지금으로서는 가늠이 안 된다.

지금 AI 기술 발전 속도에 놀라고 있지만, 앞으로의 발전 속도는 지금 수준을 더 뛰어넘을 것으로 예상되기 때문에 사회 변화를 예측하는 게 무의미할 정도가 아닐까 싶다.

그런 차원에서 기술의 발전 속도에 맞춰서 가급적 우리가 사회적인 공감대를 이루고, 그것에 필요한 제도들을 만들어가는데 조금 더 노력을 기울여야 할 때가 아닌가 생각한다.

Q. Open AI에서 GTP-4가 나온 이후 구글 등 후발 주자들의 AI 기술개발 정도와 우리 기업들의 경우 어느 정도로 따라가고 있는지 궁금하다.

A. 박지환 대표 : 초거대 인공지능(AI)을 갖고 있는 나라도 있지만, 초거대 인공지능과 관련한 생태계를 보유한 나라도 있는 것으로 알고 있다. 여기서 중요한 게 생태계인데, 인공지능이 있다는 것이 아니라, 그 인공지능과 연계된 서비스들, 산업의 생태계로 볼 수 있는데 지금 현재는 미국, 중국, 한국 정도라고 평가된다.

영국은 이제 초거대 인공지능을 만들겠다고 1조 7천 억원을 투자했다고 하고, 일본은 자체적으로 만들기 어려울 것 같아 Open AI와의 협력을 통해 도입하겠다는 얘기를 하고 있다고 알고 있다.

우리의 경우 AI의 성능 관점보다는 생태계가 얼마만큼 활성화됐느냐는 관점이 중요할 수 있다고 생각한다. 왜냐하면 성능은 적어도 생태계가 좋으면, 서비스가 좋으면 그 산업은 발전할 수 있기 때문이다.

인공지능(AI)의 기능은 대부분 내가 하지 못하는 것들, 그런 선택과 판단과 정보와 지식을 주는 것인데 앞으로는 그 지식에 대한 가치판단이 들어가기 시작할 것이다.

만약에 영어권 자료를 기반으로 학습을 한 미국의 AI가 베트남 전쟁에 대해 물어보면 과연 베트남 사람들이 수용 가능한 대답을 내놓을까요?

똑같은 사건이지만 베트남과 미국은 다른 관점을 가질 가능성이 있다. 그러면 인공지능의 목표가 어떤 절대적인 신의 존재로 가려는 게 아니라면 최소한 협력적으로 사용할 수 있어야 하는데, 미국의 인공지능이 아무리 뛰어나더라도 베트남에서 받아들일 수 없다면 그것은 수용할 수 없는 AI가 될 수 있다.

일본의 AI가 아무리 뛰어나더라도 독도 문제를 물었을 때 우리가 수용할 수 없는 독도 얘기를 한다면 받아들이기 어려울 것이다.

그래서 이제부터는 그 사회에서 수용할 수 있느냐가 차별화 전략이 될 수 있다고 본다. 지금까지는 내 질문에 얼마나 똑똑한 답을 주는지가 하나의 포커스였다면 이제부터는 얼마만큼 수용할 수 있는 형태의 생태계를 갖고 있느냐로 이동하는 단계가 될 것이라고 본다.

그래서 동남아시아 시장과 아시아 시장, 즉 언어권에 따른 시장에서 그 언어들이 갖고 있는 잠재적인 의도, 내포된 의도가 있다. 어떤 말에는 잠재된 공격성과 편향성이 있는데, 각각의 나라마다 그 나라의 역사와 윤리관, 가치관을 올바르게 해석할 수 있는 능력들이 필요하고 언어권에 대한 차이가 드러나기 시작할거다.

미국이 페라리를 잘 만들었다고 해서 우리나라에서 페라리가 잘 다닐 수 있는 도로 사정이 안되면 페라리가 안 돌아다닌다. 그게 아니라 통학버스, 마을버스, 출근버스 등 각각 도로가 잘 정비되었는지부터 생태계가 잘 갖춰졌느냐가 이제부터 승부가 될 것이다.

Q. 글로벌 연합체 관련해서 연합체 결성과 목적 등의 의미와 생태계 문제는 어떻게 연관될 수 있을까요?

A. 박지환 대표 : 아시아 지역에서 약간 차이가 있는데, 기술은 경쟁하는 게 이득이 될텐데 결국 멀리 보면 사회에서 수용할 수 있는 기술을 만들었을 때 경쟁이 이뤄진다고 본다. 지금은 너무 초기 단계라서 경쟁을 통해 발전을 가져오지 못할 것으로 보이고, 언젠가는 우리가 합리적으로 선의의 경쟁을 할 수 있겠지만 지금은 경험을 빨리 모아야 할 때라고 보인다.

지금은 경험과 지식을 공유하고, 잘못된 방향으로 가지 않도록 하는 게 더 중요한 시기라고 생각한다. 우리가 잘 못 단계를 밟아오면 어는 순간 처음부터 다시 해야 될 수도 있기 때문에 지금은 빨리 가는 것보다 이런 것들을 잘 짚어나가는 게 중요하다고 생각한다.

Q. 우리의 경우 미국에 비해 투자 규모 100배, 컴퓨팅 규모 100배, 시장 규모 50배, 인재 규모 20배의 차이가 난다는 지적과 함께 '선택과 집중' 전략을 써야 한다는 말이 나옵니다. 이렇게 미국이나 중국에 비해 AI 생태계가 어려운 상황인데요, 어떤 분야에 선택과 집중을 해야 한다고 보시는지.

A. 박지환 대표 : 기술 규모, 인재 양성 규모 등에서 차이가 있는 것은 분명하다. 그런데 선택과 집중을 해야하는 분야에 대해서는 아직 모르겠다.

기술과 사회의 문제는 맹신 아니면 불신의 문제가 따라다니는 것 같다. 너무 멀리 앞서가면 불안하니까. 어찌 보면 천천히 가면 사람들이 충분히 수용할 수 있었을 텐데, 너무 멀리 앞서가면 수용이 안 될 수 있다.

그래서 저는 기술에 대해서 우리가 수용하기 위해서는 준비할 게 많은데, 특정 산업을 지금 정하지 않아도 될 것 같다는 입장이다.

Q. 인공지능의 신뢰성 문제가 제기되고 있다. 영화 '오펜하이머'에서도 원자폭탄 문제가 나왔지만, 과학이 갖고 있는 기술 발전과 그것이 인류에게 미칠 악영향 등 철학적, 윤리적 문제와 연결해서 '인공지능의 신뢰성' 문제를 어떻게 풀어내야 하는지 설명을 부탁드린다.

A. 박지환 대표 : 일단 용어랑 개념부터 정리해야 될 듯 하다. 신뢰성은 secure, safe, reliability, responsibility, trustworthiness 등으로 표현된다. 우리 말로는 모두 신뢰성인데. 유럽 기구 기준으로 신뢰성의 정의를 살펴보면 제일 안에 안전이 있고, 안전 위에 법이 있고, 그 법 위에 윤리가 있다. 이 세가지를 신뢰라는 단어를 썼다.

즉 뭘 신뢰할 거냐, 이 AI가 제대로 동작하고, 안전하게 동작하고, 법를 지키고 세 번째는 윤리를 지킬거야라는 뜻이다. 이 세가지를 지키는 게 인공지능인데, 그게 왜 중요해라고 물으면, 옛날에 인공지능은 자동화였다. 기계는 내가 시키면 시킨대로 했고, 그런데 지금은 스스로 판단해서 한다.

그럼 이 인공지능이 한 판단에 대해 누군가는 책임을 져야 되잖느냐. 인공지능한테 책임을 물을 수는 없으니까. 그럼 이걸 만든 사람이 책임을 져야 할까? 이걸 사용한 사람이 책임을 져야 할까? 아니면 이걸 만드는 과정에서 데이터를 제공한 사람이 책임을 져야할까요? 도대체 누가 책임을 져야 할까요?

이렇듯 책임 문제가 등장하기 시작한다. 그런데 두 번째 문제가 또 있다. 책임을 지기 위해 기준이 있어야 하기 때문이다.

그렇기 때문에 지금 기업이 갖고 있는 능력도 중요하고, 일하는 방식도 중요하고, 실제로 만들어내는 제품도 중요하지만, 아직 그런 것들을 제대로 평가할 수 있는 방법이 없기 때문에 기업들은 자신들이 어떤 과정을 통해 만들었는지를 제대로 공유할 필요가 있고, 그것을 공개한다면 책임을 다한 것으로 평가할 수 있다. 그렇다면 우리는 '믿을수 있을 것 같아요'라고 해서 '신뢰할 수 있는 인공지능'이라고 부를 수 있지 않을까 생각한다.

아직 신뢰성을 판단할 수 있는 지표나 기준이 없기 때문에 '믿을 수 있는' 정도로 단어를 쓰는게 저는 맞다고 본다.

A. 정석윤 변호사 : 인공지능은 '블랙박스'라 표현되는 본래적 성질로 인하여 결과를 예측하기 어렵다. 또 같은 결과를 어떻게 사용하느냐에 따라 법적, 윤리적 평가가 달라지기도 한다. 그런 관점에서 기술개발 과정, 그리고 인공지능 기술을 사업화해서 서비스화하는 과정에서 각 단계마다 지켜야 하는 준칙을 마련하여 개발자와 서비스제공자로 하여금 그 준칙을 지키도록 하는 것이 필요하다.

이처럼 각 단계마다 지켜야 하는 준칙이 준수되었다면 이를  '신뢰할 수 있는 AI'라고 평가할 수 있을 것이라 생각한다.

Q. 그런데 가이드라인(준칙)이 필요하기도 하지만, 산업 발전을 더디게 하는 규제 장치가 될 수도 있다는 우려가 동시에 제기되기도 하는데?

A. 정석윤 변호사 : 맞다. 그 부분이 항상 딜레마라고 할 수 있다. 국회에 계류 중인 '인공지능기본법(안)'이 국회에서 통과되지 못하는 있는 이유도 그 문제와 관련이 있다고 보인다.

예컨대, 법률안에 포함된 AI 서비스에 대하여  '우선 허용, 사후 규제' 원칙에 대해 찬반 양론이 있다.

AI산업의 발전을 위해서는 필요한 원칙이라는 입장이 있는 반면에, 아직 검증되지 않은 AI 기술을 우선허용함으로 인하여 통제하기 어려운 부작용이 발생할 수 있을 것이라 우려하는 입장도 있다. 두 입장이 상충한다.

이러한 문제는 우리나라만의 문제는 아니고 다른 나라들도 마찬가지인데 미국이나 EU도 '윤리적인'규제는 필요한데, 이를 어느 수준으로 도입하느냐에 대해 고민하고 있는 것 같다. 모두 자국의 산업 경쟁력을 우려하기 때문이다.

개인적으로는 두 마리 토끼를 다 잡아야 한다고 생각한다. 규제를 두되 균형잡힌 내용으로 만드는 것이 결국은 국내 AI 산업 경쟁력에도 도움이 될 것이라 본다.

좀 전에 박지환 대표님이 어떤 인공지능 기술이 그 사회에서 수용할 수 있느냐가 차별화 전략이 될 수 있다는 얘기를 하셨는데 그 말씀에 동의한다. 사회 구성원들이 AI 기술이나, 서비스를 받아들이고 실제 사용하는 데 있어서 '신뢰할 수 있는 인공지능'을 제공하기 위해서도 어느 정도의 규제는 필요하다는 생각이다.

다만 그 규제를 어느 수준으로 할 것인지는 매우 미묘하고 어려운 문제다. 그 두 가지 관점을 다 고려해서 사회적 합의를 위한 논의를 계속해야 한다는 생각이다.