Language
Status
인공지능 사회에 대한 전문적이고 장기적 연구의 필요
국내의 인공지능에 관한 정책은 주로 기반 기술과 응용 기술에 대한 연구 개발, 데이터셋 구축, 그리고 인공지능 윤리와 신뢰에 대한 원칙 수립으로 이루어지고 있다. 그러나 사회 곳곳에 인공지능이 활용되면서 우리 일상에 영향을 주는 일이 많아지고, 기업의 서비스가 인공지능 기반으로 변화하면서 이제 인공지능은 하나의 기술 영역에 머물러 있지 않다.
4차 산업혁명이라는 거대 담론에서도 이제 가장 핵심은 인공지능이 되고 있고, 이에 따라 개인의 삶과 사회가 어떤 영향을 받을 것인가는 단지 일부 연구자의 연구 주제에 머무를 수 없다. 인공지능은 인권, 사회 규범, 직업, 경제시스템, 뉴스 소비 방식 등 우리 사회 모든 곳에 영향을 미치고 있다.
지금까지 이에 대한 비정기적인 연구 보고서를 발행하고 관련 연구자들의 토론이 이루어졌지만, 이런 간헐적인 활동으로 인공지능 사회를 다루기에는 지속성과 전문성을 갖추기 힘들다.
이에 비해 미국과 유럽 연합의 보고서는 사회의 다양한 측면에 인공지능이 어떤 영향을 미치고 이에 대한 대응을 어떻게 준비해야 하는 가에 대한 여러 전문가의 참여와 공동 연구를 통한 보고서를 지속해서 발행하고 있다. 나아가 유럽 연합에서는 다양한 정책과 함께 인공지능 법에 대한 초안을 만들 정도로 인공지능 사회를 무겁게 생각하는 것에 비해 우리의 대처는 주요 이슈가 발생하면 이에 대한 산발적 대책을 마련하는 것에 급급한 상황으로 여겨진다. 최근 벌어진 ‘이루다 챗봇’은 충분히 예측할 수 있는 부정적 역효과임에도 불구하고 한참 얘기하다 이후 어떤 기본적인 연구와 대처 방안도 제대로 이루어지고 있지 못하다. 물론 몇 개의 연구 보고서는 나올 것이다.
이제는 인공지능에 대한 정부 정책이 기술에 대한 연구 개발 외에도 사회 문화적 측면과 더욱 포괄적인 시각을 담아 중장기 정책 수립을 지원할 수 있는 종합적이고 학제적 연구를 지속해서 수행하고, 이에 대한 방법론을 개발할 필요가 있다. 이런 목적을 위해서 매번 관련 이슈를 과제로 제시해 그때마다 다른 기관이나 연구 집단이 이를 수행하는 방식에서 벗어나 전문적이고 멀티 패러다임을 통한 연구가 연속성을 갖고 이루어져야 한다. 이를 위한 인공지능 사회 연구소 설립을 이제 본격적으로 검토해야 할 것이다.
A.I & Social
인공지능과 사회에 대한 연구를 수행하는 주요 전문 연구 집단
정책 제안 또는 검토와 리뷰를 통해 정책입안자나 공적 분야의 리더들이 참고할 수 있는 수준 있는 연구 보고서를 발행하는 해외의 주요 기관을 살펴봄으로써 어떤 연구가 필요한 것인지 검토해 보자.
■ 스탠퍼드 대학의 인간 중심 인공지능 연구소(HAI: Human-Centered AI)
HAI는 첨단 인공지능 연구, 교육, 정책, 실행을 통해 인간 삶의 조건을 개선하고자 하는 미션을 갖고 있다. 다양한 분야의 교수가 리딩 하면서 인간 지능에서 영감을 받는 인공지능 기술의 개발, 인공지능이 인간과 사회에 미치는 영향에 대해 예견하고 안내하며, 인간의 역량을 강화하기 위한 인공지능 애플리케이션을 디자인하고 만들기 위한 연구를 수행하고 있다. 페이 페이 리 교수와 존 에치멘디(Etchemendy) 학장이 공동 소장으로 이끌고 있다.
HAI는 첨단 인공지능 연구, 교육, 정책, 실행을 통해 인간 삶의 조건을 개선하고자 하는 미션을 갖고 있다. 다양한 분야의 교수가 리딩 하면서 인간 지능에서 영감을 받는 인공지능 기술의 개발, 인공지능이 인간과 사회에 미치는 영향에 대해 예견하고 안내하며, 인간의 역량을 강화하기 위한 인공지능 애플리케이션을 디자인하고 만들기 위한 연구를 수행하고 있다. 페이 페이 리 교수와 존 에치멘디(Etchemendy) 학장이 공동 소장으로 이끌고 있다.
[ 그림 1 ] HAI 연구사진, 출처: HAI Facebook
정기적으로 인공지능 발전의 현황을 점검하는 ‘인공지능 인덱스’ 보고서도 발행하는데, 원래 인공지능 100년 연구(AI100)에서 시작한 보고서 프로젝트를 HAI로 이관한 것이다. 이에 영향을 받아 국내에서는 한국지능정보화사회진흥원(NIA)가 유사한 보고서를 발행하고 있다.
■ 뉴욕 대학의 AI NOW 연구소
뉴욕 대학의 AI NOW 연구소는 2017년 11월에 문을 열었다. 이곳은 인공지능의 사회적 함의에 대해 연구하는 대학 연구소로는 최초의 연구소임을 자부한다. 편견과 포용, 권리와 자유, 노동과 자동화, 안전과 중요 인프라에 대한 사회적 이슈를 중심으로 연구와 공개적 의견 표출을 위한 활동을 할 것을 초기에 선언했다.
뉴욕 대학의 AI NOW 연구소는 2017년 11월에 문을 열었다. 이곳은 인공지능의 사회적 함의에 대해 연구하는 대학 연구소로는 최초의 연구소임을 자부한다. 편견과 포용, 권리와 자유, 노동과 자동화, 안전과 중요 인프라에 대한 사회적 이슈를 중심으로 연구와 공개적 의견 표출을 위한 활동을 할 것을 초기에 선언했다.
[ 그림 2 ] AI NOW, 출처: AI NOW Facebook
리더는 케이트 크로포드 교수와 메레디스 휘트테이커 연구 과학자가 맡았다. 케이트 크로포드는 마이크로소프트 연구소 출신이며, 휘트테이커는 구글에서 일하는 동안 공개 연구 그룹과 M-랩을 만든 사람이다. 이 연구소를 설립하게 된 계기는 2016년 버락 오바마 대통령과 백악관에서 열린 심포지엄에 참석하면서 좀 더 장기적인 안목에서 인공지능의 사회적 영향력에 대한 연구가 필요하다는 인식에서 비롯했다. 향후에는 사회학, 법, 역사학자를 포함해 인공지능과 사회에 대한 연구를 포괄적으로 수행할 예정이다.
AI NOW는 매년 인공지능의 현황에 대한 보고서를 발행하고 있으며 앞에서 얘기한 4개 부문을 핵심 영역으로 삼고 있다. 파트너 기관으로는 뉴욕 대학의 공대, 데이터 사이언스 센터, 인공지능 파트너십(PAI), 그리고 미국시민자유연맹(ACLU)이 있다. 후원 기관으로는 맥아더 재단, 마이크로소프트 연구소, 구글, 포드 재단, 딥마인드 윤리와 사회 연구팀, 알프레드 슬로언 재단 등이 있다.
지금까지 발행한 보고서는 매년 개최하는 심포지엄 보고서, ‘뉴욕시의 자동화 결정 시스템에 대한 보고서’, ‘장애, 편견, 그리고 인공지능’, ‘정부의 알고리듬 기반 결정 시스템 사용에 대한 새로운 도전’, ‘예측 치안의 문제와 정의’, ‘차별하는 시스템’, ‘알고리듬 책무성 정책 도구’ 등 인공지능이 야기하는 다양한 사회 이슈를 깊이 있게 다루는 보고서와 많은 논문을 발표하고 있다.
■ 생명의 미래 연구소(FLI)
미국 보스턴에 있는 비영리 연구소로 인류가 직면한 존재 위험을 완화하기 위한 연구를 목적으로 2014년에 설립한 연구소이며 지금은 일반 인공지능(AGI)을 포함한 첨단 인공지능의 위협에 대한 연구를 중점적으로 수행하고 있다.
미국 보스턴에 있는 비영리 연구소로 인류가 직면한 존재 위험을 완화하기 위한 연구를 목적으로 2014년에 설립한 연구소이며 지금은 일반 인공지능(AGI)을 포함한 첨단 인공지능의 위협에 대한 연구를 중점적으로 수행하고 있다.
[ 그림 3 ] FLI, 출처: FLI Facebook
초기 설립자는 MIT의 물리학자인 맥스 태그마크, 스카이프의 공동 창업자인 얀 탈린, 하버드 대학원생이며 수학 올림피아드 수상자인 비키토리아 크라코브나, UCSC 물리학자 안쏘니 아가르 등이며, 14명의 과학 자문위원 역시 세계적인 학자로 이루어져 있다.
2015년 푸에르토리코에서 ‘인공지능의 미래: 기회와 도전’ 콘퍼런스, 2017년 아실로마에서 ‘유익한 인공지능’ 콘퍼런스 등을 개최하면서 얀 르쿤, 일론 머스크, 닉 보스트롬 등의 거물이 모여서 인공지능 안전에 대한 공개서한, 아실로마 인공지능 윤리 원칙 등을 발표했다.
이 연구소에는 일론 머스크가 2015년에 글로벌 인공지능 연구 노력을 지원하기 위해 1천만 달러를 기부했으며 일반적인 인공지능 연구가 아니라 인공지능을 더 안전하게 만들고 사회에 더 유익하게 만들 수 있는 방법에 대해 연구를 한다. 이런 자금을 통해 외부 연구자들의 연구 과제를 제안받아 지원하는 프로그램이 있다.
■ 옥스포드 대학의 인류의 미래 연구소 (FHI)
인류의 미래 연구소는 인공지능에만 제한한 연구를 하는 곳은 아니지만, 현재 주요 연구 그룹이 ‘인공지능 거버넌스’와 ‘인공지능의 안전’, ‘디지털 마인드’에 대한 연구를 수행하는 매우 영향력 있는 연구소이다.
인류의 미래 연구소는 인공지능에만 제한한 연구를 하는 곳은 아니지만, 현재 주요 연구 그룹이 ‘인공지능 거버넌스’와 ‘인공지능의 안전’, ‘디지털 마인드’에 대한 연구를 수행하는 매우 영향력 있는 연구소이다.
[ 그림 4 ] FHI, 출처: FHI Facebook
인공지능 거버넌스 연구는 인류가 첨단 인공지능 시스템으로의 전환을 어떻게 잘 헤쳐나갈 것인가? 지정학, 거버넌스 구조, 전략 흐름이 기계 지능의 개발이나 채택을 어떻게 이루어 나갈 것인가에 대해 연구를 하고 있다. 이런 연구를 위해서 정치학, 국제 관계, 컴퓨터 사이언스, 경제학, 법, 철학자의 협업을 이끌고 있다.
인공지능 안전의 문제에 대해서는 딥마인드, 오픈AI, 버클리 대학의 CHAI와 협력을 하면서 스케일이 커져도 안전한 인공지능, 인간 가치와 부합하는 인공지능 시스템에 대한 연구를 수행하고 있다.
이 외에도 영국의 앨런 튜링 연구소의 인공지능 프로그램 중에 안전과 윤리 프로그램 역시 인공지능의 투명성, 설명 가능성, 공정성, 안전 등에 대한 연구를 수행하고 있으며, UC 버클리 대학의 ‘인간과 호환되는 인공지능 센터(CHAI)’의 학제적 연구, 타 기관과 공동 연구 역시 이 주제에 관련한 여러 연구가 있다.
Research
인공지능 사회 연구소에서는 무엇을 연구할 것인가?
인공지능 사회 연구소는 해외의 주요 연구소 또는 연구 집단과 같이 주요 연구 영역을 설정할 필요가 있다. 주요 분야는 인공지능 정책과 거버넌스, 신뢰할 수 있는 인공지능, 인공지능에 대한 학제적 연구, 인공지능이 다른 학문에 미치는 영향, 노동의 미래, 인공지능과 공존의 문제 등이 될 것이다.
이런 연구 분야를 공학과 인문사회학, 철학, 법학, 경제학 전문가들이 모여서 수시로 함께 연구하고 토의하며 연구 보고서를 발간하는 연구가 가장 기본 연구가 될 것이다.
가. 정기적인 연구 보고서 발행 다학제적 접근을 기반으로 하는 연구 보고서는 내부 연구진에 의한 연구 외에도 그랜트 방식의 연구 자금을 통해 다양한 대학과 연구 집단의 제안서를 받아서 연구를 지원할 수 있다. 이에 대한 자금은 정부 외에도 다양한 기업이나 재단을 통해서 얻을 수 있다.
연구는 2~3년의 중장기 연구를 기준으로 진행해야 하며, 연구재단과 협력을 통해 더욱 본질적이고 깊이 있는 연구 과제를 수행해야 한다. 또한 해외 전문 연구소와 공동 연구를 적극적으로 지원할 필요가 있다.
나. 대한민국 인공지능 사회 백서 일반적인 백서는 주로 산업 현황에 대한 백서를 생각하기 쉽다. 산업 수준이나 기술 수준에 대한 백서는 다른 기관에서도 발행할 수 있으나, 인공지능 사회 연구소에서는 인공지능이 우리 사회에 미치는 영향, 기업이나 개인의 삶과의 관계, 다양한 분야 사람이 겪은 경험과 문제점 등 기술과 사회학적인 접근으로 발행하는 백서가 되어야 한다.
다. 포럼과 다양한 학술회의 개최 학제적 연구는 다양한 분야의 연구가들이 모여서 토론과 협의를 통해서 범위와 깊이가 생길 수 있다. 딥러닝의 최고 분야 학회인 NeurIPS가 초기에 다양한 분야의 학자들이 모여서 토의했던 것처럼 인공지능 사회에 관련한 이슈는 거의 전 분야의 학자들이 모여서 논의해야 한다. 생명의 미래 연구소에서 개최한 유익한 인공지능 콘퍼런스가 좋은 사례가 된다.
특히 해외 연구 기관과의 교류와 공동 연구를 진행하고 이에 대한 결과를 공유하는 장을 만들기 위한 학술회의는 이 연구소에서 가장 핵심 기능으로 가져가야 할 것이다.
라. 정책입안자나 공공 영역 리더에게 인공지능 정책 교육 실시 이는 스탠퍼드의 HAI가 최근에 발표한 내용과 같은 방향이다. HAI와 유럽 대학 연구소는 공동으로 기술 거버넌스에 대한 민주주의 모델을 정책 수립과 관련된 사람들에게 교육하기 위한 코스를 만들었다. 여기에는 유럽 의회 의원, 핀란드의 전임 수상 등도 함께했으며, 대서양 양안의 협력적 모델을 만들기 위해 미국과 유럽의 정책입안자가 같이 코스를 듣도록 할 예정이다.
특히 유럽이 디지털 서비스 법, 디지털 시장법, GDPR, 인공지능 법(초안) 등 발 빠르게 움직이고 있는 점에 대해 미국이 아직 법 제정에 뒤떨어져 있음을 인식해 양측의 이해를 돕고 공통의 주제에 대해 합의를 할 수 있게 하고자 하는 노력이다. 또한, 반독점에 대한 재정립, 인권 보호, 국가 안보 문제, 허위 정보 대처 등 공통 관심사를 민주주의 방식으로 어떻게 접근할 것인가를 논의할 수 있을 것으로 본다.
이 프로그램의 첫 번째로는 ‘인공지능: 집중 온라인 정책 랩’이며 참가자들에게 비용을 받지 않으면서 3일 동안 온라인으로 진행했다. 주요 발표자는 인공지능 기술을 포함한 주요 정책 영역과 함께 인공지능 기술이 갖는 위험에 대해 초점을 맞췄다.
국내의 경우에도 정책입안자와 국회, 공공 분야의 리더가 인공지능 사회가 가져올 수 있는 다양한 사회 이슈나 공정한 시장 경쟁을 위한 정책적 접근이 필요함에도 기술에 대한 이해도가 매우 부족한 상황이다. 인공지능 사회 연구소는 이런 교육 프로그램을 만들어 주요 정책 리더에게 제공할 수 있을 것이다.
Expectations
나아가며
인공지능이 사회에 미치는 영향에 대한 피상적인 연구나 몇 가지 원칙이나 가이드라인을 만드는 일은 오히려 시간과 자원의 낭비를 가져올 수 있다. 그보다는 이를 구현하기 위한 기술 프레임워크 개발에 더 관심을 두는 것이 맞다. 그러나 기술 개발이 추구해야 하는 방향이 올바른 것인지, 사회적 문제를 완화하거나 최소화한다는 것이 무엇을 기준으로 할 것인지, 기술이 가진 한계나 야기할 문제점이 무엇인가를 먼저 파악할 수 있다면 그로 인한 사회적 비용을 크게 줄일 수 있을 것이다.
이제 우리가 취해야 하는 방향은 인공지능 기술 개발에 쏟는 정부 예산과 노력의 일부를 인공지능이 가진 사회적 영향력과 파급 결과에 대해 좀 더 깊이 있고 본질적인 연구를 해야 하며, 이를 지속해서 추진할 수 있는 전문 연구소를 설립해야 하는 것이다.
TOP
◀ 이전 글
다음 글 ▶