avengers-2-

인공지능 시대, 준비되셨나요?

최근 개봉한 ‘어벤져스 : 에이지 오브 울트론’은 ‘인공지능’을 주제로 꽤 흥미로운 이야기를 풀어냈습니다. 영화는 울트론이라는 인공지능이 ‘우리 시대의 평화’라는 주제에 매몰되어 결과적으로 인류를 몰살하려는 사건을 다루고 있습니다.

이와 유사한 인공지능으로 ‘터미네이터’ 시리즈의 스카이넷을 꼽을 수 있습니다. 스카이넷은 미국의 국방 시스템 네트워크로 개발되었지만, 의도적으로 테러를 조작해 인간으로부터 권한을 이양받게 되고, 그와 동시에 인류 말살을 위한 3차 대전을 벌입니다.

아이언맨 캐릭터의 실제 모델로 유명한 테슬라의 경영자, 엘론 머스크는 ‘인공지능이 핵보다 위험할 것’이라는 말까지 서슴치 않으며, 인공지능 개발에 부정적 입장을 밝혔습니다.
스티븐 호킹 등의 학자들도 앞다퉈 인공지능 개발에 대해 우려를 표한 바 있습니다.

지난 4월 13일부터 17일까지 스위스에서 개최된 유엔 무기 관련 다자회의에서 논의된 안건 중 하나가 ‘살인로봇 책임 부재(The Lack of Accountability for Killer Robots)’였습니다.
안건을 건의한 휴먼라이트워치는 전자동 살상로봇이 논란이 될 수밖에 없는 이유로 책임을 지는 주체가 없다는 사실을 언급했습니다.

인간이 아닌 기계에 의한 살상에 살인혐의를 직접적으로 적용시킬 수 없으며, 이를 배치한 사령관과 조종사에게 책임을 묻고자 하더라도 고의성을 판단하기에 애로사항이 생기기 때문입니다.
안건을 건의한 휴먼라이트워치는 기계가 가진 ‘효율성’이 전쟁과 맞물릴 경우, 기존의 전쟁과 비교할 수 없을 만큼 끔찍할 것이라고 경고했습니다.

이에 대해 프랑스를 비롯한 다수의 국가들은 대량 살상무기를 로봇에 탑재할 의사가 없으며, 로봇은 짐을 옮기거나 인간의 업무를 분담하는 ‘보조적 용도’로 사용될 것이라 강조했습니다.
하지만 로봇의 보조적 용도라는 말은 평범한 군용 전산망에서 비롯되었으나, 인간의 사고 범위를 뛰어넘는 인공지능의 단계를 돌파하자 인류의 재앙이 된 ‘스카이넷’의 탄생을 연상시키기도 합니다.

 

스카이넷

터미네이터 시리즈에서 인류를 멸종시키는 스카이넷

 

반면 ‘인공지능은 뇌를 닮아가는가’의 저자 유신 교수는 엘론 머스크와 스티븐 호킹의 경고에 동의하지 않는다고 밝혔습니다.
그는 인공지능에 경고를 보내는 학자 대부분이 직접적으로 인공지능 연구에 관여하고 있지 않고 있음을 지적하며, 실질적인 위협은 인공지능으로 인한 생존의 위협이 아닌 사회 경제적 위협임을 강조했습니다.
만약 소수의 자본가가 노동력을 로봇으로 대체했을 때, 인류는 어떤 삶을 살게 될까요?

기술과 공학은 ‘효율성 증대’에 초점을 맞춰 발전해왔습니다.
산업의 관점에서 더 높은 효율성을 위해 인간의 자리를 로봇으로 대체할 것이라는 추측은 큰 설득력을 가집니다.
영화 속에서 인간을 학살하던 로봇과 달리 사무실에서 우리의 자리를 대체한 로봇을 상상하는 것은 “어쩌면 그럴 수도 있겠다”는 생각마저 들게 합니다.

 

The last game

예측불가능한 창의성으로 효율성을 뛰어넘는 ‘The last game’

나이키가 2014년에 공개한 애니메이션 The Last Game은 전술 이해도가 높고 효율적인 축구로 프로그래밍된 로봇들이 축구 선수들을 대체한 미래를 인간 선수들이 ‘창의성’과 ‘불확실성’으로 역전시키는 이야기를 담고 있습니다.
만약 인간처럼 폭발적인 사고가 가능한 로봇이 있다면, 언젠가 창의성과 불확실성 또한 구현할 수 있지 않을까요?
이런 질문들은 꼬리에 꼬리를 물고 결국 인간의 존재에 대한 질문으로 이어집니다.

스파이크 존즈 감독의 영화 ‘그녀(her)’는 스스로 사고하는 인공지능 OS ‘사만다’와 사랑에 빠진 남자의 이야기를 다루고 있습니다.
극 중 ‘사만다’는 제 3자인 여성을 섭외하여 남자와 물리적인 사랑을 시도하는데요.
이처럼 ‘인간처럼 사고하는 OS와 사랑에 빠질 수 있다’는 사실은 역설적으로 ‘인간의 몸이 물질적 인터페이스에 불과하다’는 사실을 암시하고 있습니다.

영화 속 인공지능 OS들은 신체 뿐 아니라 지성 또한 대체할 수 있음을 보여주는데, 1950년대에 활동했던 사상가 앨런 와츠에 관한 문헌과 자료들을 바탕으로 인공지능으로 구현하는 데 성공합니다.
이와 유사한 이야기를 영국드라마 ‘블랙미러’에선 극 중 사고를 당해 남자친구를 잃은 여인이 남자친구의 SNS 계정과 데이터들을 이용해 인공지능 OS로 복원합니다.

최근 구글의 엔지니어링 이사이자 미래학자로 유명한 레이 커즈와일은 2030년을 두고 죽음이 희귀한 세계일 것이라고 예상했습니다.
앞서 복원된 앨런 와츠의 인격처럼 말이죠.
그는 인간과 기계의 경계는 이미 흐려지고 있다고 말하며 질문을 던집니다.
‘당신이 24시간 함께하는 스마트폰은 몸에 이식되지 않았을 뿐, 이미 연장된 뇌의 기능을 수행하고 있지 않은가?’

인간의 신체적 한계를 첨단 기술을 통해 개선하는 ‘트랜스휴먼’도 인공지능과 함께 큰 반향을 불러 일으킬 것으로 보입니다.
레이 커즈와일은 구글의 향후 개발예정 기술로 뇌에 삽입 가능한 초소형 칩을 언급했습니다.
이것을 통해 가상현실을 보다 현실적으로 느낄 수 있게 되며, 인간과 컴퓨터가 상호작용할 새로운 인터페이스가 될 것이라 밝혔습니다.

기술 발전으로 인해 인류의 중심 플랫폼이 PC에서 모바일로 넘어가면서 우리는 언제나 네트워크와 접속할 수 있게 되었습니다.
계산기의 발명이 인간의 산술 능력의 일부를 확장시켰듯, 모바일 네트워킹을 통해 지식 보존 등의 역할 일부가 모바일 기기로 확장되었습니다.

모바일에서 트랜스휴먼으로 나아가는 것은 앞으로 인간이 모바일 디바이스 없이 사물이 소통할 수 있는 시대가 열리는 것을 말합니다.
다양한 제품과 서비스를 통해 인간의 뇌가 수행하던 역할이 분산될 것이고, 기억 또한 클라우드 서비스에 저장할 수 있게 된다면, 이것이 바로 커즈와일이 언급한 죽음 없는 세상일 것 입니다.
하지만 트랜스휴먼 시대는 전혀 다른 차원의 위협과도 맞닥뜨리게 됩니다.
바로 인체 또한 해킹의 대상이 될 수 있다는 사실입니다.

her

인공지능의 특이점 돌파에 대한 내용이 담긴 영화 ‘그녀’

레이 커즈와일은 인공지능과 첨단 기술의 위험성에 대한 질문에 ‘인류 스스로 도덕적이고 윤리적인 사회를 건설하는 것이 인공지능을 안전하게 사용하기 위한 조건’이라는 다소 모호한 답변을 했습니다.
일부 공학자들은 구글과 페이스북과 같은 거대 기업들 간의 기술 경쟁이 점차 인공지능의 특이점(인공지능이 인간의 지성을 뛰어넘는 지점) 도달이라는 목표에만 매몰되어 인공지능을 안전하게 관리할 방법에 대한 논의가 충분히 이뤄지지 않고 있다고 지적했습니다.

 

젠스페이스

일반인들에게 공개된 생명공학 연구소 젠스페이스

과거 혁신적 기술이 인류에게 거대한 영향력을 끼칠 수 있는 위험에 대해 바람직하게 해결한 사례로 ‘재조합 DNA 연구’가 있었습니다.
‘재조합 DNA 연구’는 유전자 조작 분야의 포문을 연 기술입니다.
당장은 아니지만 향후 인류에 끼칠 영향력을 고려해 학자들은 1975년 아실로마 회의를 통해 모든 실험에 필수 적용해야 할 가이드 라인을 발표했고, 이것은 40년 간 무사히 지켜졌습니다.
그리고 그 안에서 무수한 진보적 연구 성과를 달성했습니다.

소수의 생물학자들을 통해 전승되던 생명 공학 연구의 틀을 벗어나, 최근 미국 브루클린에 위치한 젠스페이스에서는 시민들이 직접 생명 공학을 연구할 수 있는 ‘DIY 생명 공학’을 제공하기 시작했습니다.
이들은 명확한 가이드라인을 통해 생명 공학이 그간 들어왔던 ‘프랑켄슈타인의 학문’이라는 오명을 씻고, 시민들로 하여금 자신의 신체를 올바르게 이해하도록 돕고 인류와 더불어 살아가는 생명들을 새로운 시각으로 바라볼 수 있는 기회를 제공하고 있습니다.

이후 레이 커즈와일은 ‘타임’지를 통해 재조합 DNA와 아실로마 회의를 언급하며, 구글이 인공지능을 올바르게 제한할 전략을 갖출 것이라고 밝혔습니다.
아울러 ‘인공지능은 2~3명의 공학자나 그룹이 아닌 10~20억의 인류의 손에 쥐어진 것’이고, 지속적인 인류의 관심과 견제가 올바른 인공지능 개발의 디딤돌이 될 것이라 말합니다.
이어서 그는 아실로마 가이드라인처럼 개별 인공지능 프로젝트의 미션을 명확히 밝히고, 악용을 차단하기 위한 세이프가드 안에서 개발하는 것도 좋은 대안이 될 수 있다고 이야기 했습니다.

인공지능에 있어 레이 커즈와일과 정반대 지점에 섰던 엘론 머스크는 인간을 위한 인공지능을 연구하는 ‘삶의미래연구소(FLI)’에 최근 천만 달러를 기부했습니다.
삶의미래연구소는 학계, 산업계의 인공지능 연구자들이 ‘인간에 도움이 되는 인공지능’을 연구하기 위해 자발적으로 결성한 조직입니다.
이들은 인공지능의 잠재적 위험을 피해가면서 미래 기술의 혜택을 극대화시킬 방안을 주요 해결 과제로 삼고 있으며, 엘론 머스크는 이들이 말하는 ‘안전한 인공지능과 인류에게 유익한 방향으로 연구’에 동의한다고 밝혔습니다.

레이 커즈와일

엘론머스크_02

인공지능에 대해 상반된 입장을 보이는 레이 커즈와일(상)과 엘론 머스크(하)

레이 커즈와일과 엘론 머스크는 인공지능의 특이점에 대해 상반된 의견을 보이고 있지만, 인공지능이 가진 무한한 가능성과 잠재적 위험성을 인정하고 이것을 안전하고 인류에 유익한 방향으로 사용하기 위한 대안을 제시하는 데에는 공통된 행보를 보이고 있습니다.

인공지능과 트랜스휴먼과 같은 기술은 더 이상 공학자들만의 문제가 아닙니다.
기술은 산업을 넘어 우리의 일상까지 절대적인 영향력을 끼칠 수 있기 때문입니다.
그 중에서도 인공지능과 트랜스휴먼 기술로 인해 인류는 스스로의 존망이 걸린 중대한 갈림길에 섰습니다.

최근 러시아는 기관총이 탑재된 무인로봇을 전선에 배치했지만, 아직은 인간의 명령을 듣는 수준에 머물러 있습니다.
또한 2011년 개발된 인공지능 로봇 왓슨은 스스로 레시피를 분석해 맛있는 요리를 만들 수 있는 단계에 와있습니다.
미래가 아닌 이미 벌어진 현실입니다.

이제부터는 기술에 대한 무조건적인 찬사나 막연한 공포를 넘어 기술의 맥락과 인류에 끼칠 영향을 읽어내는 능력이 필요합니다.
기술과 사회가 맞닿는 지점을 다루는 학문인 인문사회과학적 관점을 통해 사회 구성원과 학자가 함께 기술의 오남용을 방지할 수 있는 적절한 가이드라인을 만들어 갈 때, 비로소 인공지능이 ‘인류 최후의 발명품’이라는 꼬리표를 뗄 수 있을 것입니다.

이러한 건강한 견제와 논의는 비단 오늘날의 우리를 위한 것이 아닙니다.
이것이 우리가 물려줄 환경에서 살아갈 다음 세대를 위한 주춧돌이기 때문입니다.

 

– 가치디자인그룹 고혁준

 

 

[참고자료]
인공지능은 뇌를 닮아가는가, 유신, 컬쳐룩
인공지능 붓다를 꿈꾸다, 지승도, 운주사
로봇이 살인하면 누가 처벌받나, 김정현, 주간조선
일론 머스크, ‘안전한 인공지능 연구’에 1천만달러 기부, 이성규, 블로터닷넷
일자리의 미래, 마크 스미스, 옥스퍼드대학교 & 딜로이트(Deloitte)
레이 커즈와일, “인공지능 두려워 말라”, 이성규, 블로터닷넷
‘인체 해킹’ 시대 혁명인가, 디스토피아인가, 이성규, 블로터닷넷

Share this:

Leave a comment