2018학년도 1학기에 나는 무엇을 배웠나: 응용윤리연구해당 강의 기말 과제 작성을 위해 정독했다. 다른 관련 서적들도 도서관에서 닥치는 대로 빌려 발췌독 했는데, AMA(artificial moral agent 인공적 도덕행위자)에 관한 논의를 이만큼 잘 정리해둔 책은 없는 듯하다. 보고서 쓰기를 염두에 두고 읽었기 때문에 인용할 만한 부분 워드 작업을 병행하며 읽었다. 윤리학 이론 기반과 인공지능에 관한 최신 논의 두 방면 모두를 따라가며 독서해야 했기때문에 정독하는데 꽤 시간이 걸렸다. 인공적 도덕 행위자가 등장할 수 있는 시대가 다가오고 있으므로, 도덕적 지위와 윤리학의 위상에 대해 고민해야 한다. 스스로 판단을 내리는행위자인 인공지능에게 (도덕적 행위 능력은 없지만)도덕적 지위를부여할 수 있는가, 다시 말해 권리를 부여한다면 책임은 어떻게 물을 것인가. 사실상 교수님께서 이 강의에서 도착하고 싶으셨던 지점은 여기였던 듯한데, 비슷하지만 다른 동물권(생물권?) 논쟁을 따라가느라 환경윤리를 다룬 후 시간이 부족해서 이 문제는 개인적으로 읽고 정리하도록 맡기셨다. 응용윤리 분야는 인간 삶과 관련 있는 모든 분야를 다룬다. 기술이 발전하는 시대에 응용윤리학에서 도덕적 논의는 현상을 뒤따라갈 수밖에 없다, 문외한으로서 전문 지식을 깊이 이해해서 논의를 선점하고 예상 가능한 문제를 예방하기란 매우 어렵다. 관련 서적들을 찾아보니 거기에 숱하게 등장한 SF 영화나 문학 작품들 속에서사이보그나 (로)봇은자주 두려운 모습으로 그려지고 있었다.과연 아직 만들어지지도 않았고 완벽하게 만들 수(혹은 진화할 수)있을지도 불확실한 AMA인 AI 에관해 지레 걱정할 필요가 있을까. 실제로 해당 고민을 가지고 있는 상황에서 기계공학 전문가와 이야기할 기회가 있어서 인공지능에게 자신의 행위에 대한책임을 묻는 문제에 대해 공학계에서는 어떻게 준비하고 있느냐고 여쭤보았다(구체적으로 자율주행차가 사고를 냈을 때 누가 얼만큼 책임져야 하느냐). 첫째, 자율주행차는 인간보다 사고를 덜 낼 것이다, 둘째, 보험회사가 어떤 기관인데!! 먼저 알아서 잘 준비할 것이다라는 답변을 들려주셨다. 보수적인 윤리학을 공부하는 자라 내가 꽉 막혔는지 모르겠지만 근본적으로 앞으로 공학자가 될 학생들은 인공지능이 처할 윤리적 딜레마에 대해 관심 가질 기회가 있기는 한지 궁금해졌다. 물론 커리큘럼에 있겠지만 그들이 실질적으로 우리만큼 관련 문제에 관해 고민할 생각이 있을까? 고민을 하지 않고 있으니나쁘다기보다는 그 분야에서 이런 논의가 다소 무의미하게 여겨질 수 있겠다는 생각이 들었다. 이 책에서도 사변적으로 흐를 수 있는 윤리학적 논의와 실제로 공학적으로 AMA를 구현하는일을구분하고자하고 있다. 진정한 AMA가 아니더라도 결과적으로 타자에게 해를 끼치지 않고 도덕적 행위를 할 수 있는AI를 만들면 되지 않느냐는 입장으로 보였다. 저자들은 힌트를 얻을 만한 윤리학적 이론들을 (타 분야를 존중하는 자세로) 검토하고 있지만 종국에는 그 이론들만으로는 충분하지 않으므로 공학적 으로 실제로AMA를 구현할 때 하향식 접근이 얼마나 도움이 되겠느냐는 입장을 보이는 듯하다. 특히 누구나 할 수 있는 좋은 말인 (로)봇이 스스로 덕 을 갖추게 하자 는 주장은,인공적으로 구현하기는 거의 불가능한 방안이라고 보고 있다(그 와중에 저자들은 아리스토텔레스 식 덕 윤리와 현대 연결주의 를 연관지어보고 있다). 그야말로 가치 부여자 없는 가치는 존재할 수 없다.“... 철학자와 공학자 사이에는 근본적인 차이가 존재한다. 철학자는 매우 추상적인 원리의 측면에서 생각하는 경향이 있는 반면 공학자는 실제적인 설계 작업을 추진해야 한다. 하지만 여전히 철학자들도 어떤 역할이 있다. 일반적 원리가 설계를 이끌 수 있기 때문이다. 비록 그런 원리만으로는 충분하지 않더라도 말이다. 시나리오 A가 허구적일지는 모르지만 어떤 질문들-인공적 행위자에 윤리적 능력을 기대하는 실제적인 응용사례에서도 생기게 될 질문들-에 대해 고찰할 유용한 방법을 제시해준다.” 130쪽.(깁스) ““윤리에 대한 덕 기반 접근법, 특히 아리스토텔레스의 접근법은 AI에 대한 현대의 연결주의 접근법과 일맥상통하는 듯하다. 둘 다 직접적이고 지각적이며 비기호적인 측면을 강조한다. 둘 다 추상적인 이론을 가르치기보다는 훈련에 의한 개발을 강조한다.” 연결주의는 각각 기본적인 과제를 수행하는 단순한 유닛들의 상호연결된 네트워크를 통해 복잡한 행동의 출현을 모델링하기 위한 전략이다. 연결주의 모델은 흔히 인공적 신경망이라고도 불리며, 비록 생물학적 뉴런의 여러 중요한 속성들을 무시하기는 하지만 이 모델은 동일한 처리 능력을 일부 공유한다. 연결주의의 한 가지 장점은, 인공신경망이 복잡한 입력 사항들의 통계적 규칙성을 알아차림으로써 패턴 인식 또는 범주 파악 능력을 익힐 수 있다는 것이다. 이는 명시적 지시라든지 혹은 네트워크가 배우는 개념이나 범주에 대한 프로그래밍 없이도 이루어질 수 있다.” 210쪽.아무튼 현실적인 필요 때문에라도 기계를 AMA로 만들 방법을 연구할 필요성, 더 근본적으로는 AMA로서 기계를 만들지 말지 여부를 결정해야할 상황이 다가오고 있다. 저자들은 AMA를 구현하기 위해 기계에 도덕적 행위를 프로그래밍하기 위한 하향식 접근(연역?)과 상향식 접근(귀납?), 그리고 그 두 방식을 통합하려는 최신 시도들(경험과 학습 기회- 저자들을 비롯한 공학자들은이 과정에서 아동 발달 단계 를 참조점으로 삼고자 한다)을 일목요연하게 정리해 제시하고 있다. 다시 말해 기계를 프로그래밍하려면 필연적으로 이미 존재하는 윤리학적, 종교적 이론을공식 삼아 기계가 판단을 내리고 행위하도록 할지, 반대로 상황에 따라 행위한 방식의 결과를 공리주의적으로 분석한 후 가장 최적의 행위를 할 수 있도록 할지선택해야만 한다. 그런데 저자는 두 방식 모두 약점이 있어서 한 가지만 취하기에는 한계가 있다고 본다. 가능하다면 두 방식을 통합하는 방식이 좋겠다고 보는 듯하고, 책 후반부에서는 실제로 두 방식을 통합해서 AMA를 구현하려는 연구 시도들을 제시하고 있다. 이를 테면 알파고처럼 인간이 과정을 파악하거나 결과를 예측하기 어려울 정도로 스스로 딥러닝을 해서 상황에 더 적합한 방식으로 행위하도록 진화(?)하거나, 인간과 유사한 신경 감각적 기능을 물리적으로 갖추어 실제로 상황 맥락 속에서 경험하면서 자신의 행위에 따른 타자의 반응과 감정을 파악함으로써 더 적절한 행위 방식을 찾아가도록 돕는 방식이 있다. 도덕적 행위에는 자율성과 가치에 대한 민감성이 필요하지만 이 둘은 항상 같이 가지는 않는다.“모든 공학적 과제는 과거의 기술을 발판으로 점진적으로 발전한다. 이 장에서 우리는 현재의 기술로부터 정교한 AMA에 이르는 과정을 이해하기 위한 기본 틀을 제시할 것이다. 이 틀에는 두 가지 차원, 즉 자율성 그리고 가치에 대한 민감성이 있다. 10대 아이의 부모라면 누구나 알 듯이 두 차원은 독립적이다. 누군가 더 자율적이 된다고 해서 가치에 대한 감수성이 풍부해지지는 않는다. 이는 10대 아이의 경우와 마찬가지로 기술에도 해당된다.” 49쪽. 기계가 인간과 거의 유사한 존재로 여겨지기 위해갖추어야 할 세 가지 조건은 다음과 같다."(루치아노 플로리디와 J.W. 샌더스: 인공 행위자의 세 가지 핵심 성질)(1) 상호작용성(interactivity): 상태 변화에 의한 자극에 반응하는 능력, 즉 행위자가 주위 환경과 서로 영향을 주고받으며 행동할 수 있는 능력(2) 자율성(autonomy): 자극 없이도 상태를 바꿀 수 있는 능력, 즉 상호작용에 대한 직접적 반응 없이도 어느 정도의 복잡성 및 환경과의 분리성을 유지하는 능력(3) 적응성(adaptability): 상태 변화의 기준이 되는 ‘전환 규칙’을 바꾸는 능력, 즉 행위자가 자신의 경험에 따라 작동 방식을 스스로 학습할 수 있는 능력" 107쪽.흔한 칸트주의자처럼 진정한 AMA를 인공 적으로 만들어내기는 불가능에 가까울 정도로 어려우리라고 생각한다.인간중심주의라는 비난을 감수할 각오를 하고,인공적으로 만든 도덕 행위자(처럼 보이는 존재)를 진정한 도덕 행위자로 여겨야 하느냐는 질문이 남는다. 약한 인공지능은 인간이 프로그래밍해줄 수밖에 없고,딥러닝 등을 통해 기계가 스스로 진화해 특이점을 넘어서서(커즈와일이 예측한 기한이 2029년이라니머지 않았다)강한 인공지능이 만들어진다면 그 존재는 도덕적 행위에 있어 인간과 구분하기 어려울 정도로 유사해질 터이기 때문에 인간과 별개로 도덕적지위를 부여하고 책임을 물을 필요 없이 인간과 같은 지위를 부여하면 된다. 약한과 강한 사이의 스펙트럼을 어떤 도덕으로 채워갈까하는 문제가 남고, 이는 현행 기술발전을 윤리학이 따라가고 있듯 발생하는 상황을 따라갈 수밖에 없지 않겠느냐는 생각이 든다."윤리적 행위자에 관한 무어의 범주들제임스 무어는 다트머스 대학의 철학교수로 컴퓨터 윤리 분야의 창시자들 중 한 명이다. 그는 여러 유형의 AMA를 범주화하는 위계적 체계를 제시했다. 가장 낮은 수준은, 그가 명명한 ‘윤리적 영향 행위자 ethical impact agent’다...다음 수준은 무어가 명명한 ‘내재적인 윤리적 행위자 implicit ethical agent’다. 부정적인 윤리적 결과를 내놓지 않도록 설계자가 공을 들여 설계한 기계를 가리킨다. 설계 과정에서 안전 및 중요한 책임 항목을 반영시킨 것이다. 단언컨대 모든 (로)봇들은 설계자가 안전과 책임을 보장하는 과정을 시스템에 탑재시키는 데 관심이 있는 한, 반드시 내재적인 윤리적 행위자로서 제작돼야 한다.그다음은 ‘명시적인 윤리적 행위자 explict ethical agent’다. 내부적 프로그래밍의 일부로 윤리적 범주들을 사용해 윤리에 관해 사고하는 기계를 가리킨다. 아마도 이때에는 의무와 책임을 나타내기 위해 개발된 다양한 형태의 ‘규범적’ 논리 또는 기타 다양한 기법이 활용된다. 이 모든 것 다음 수준이 바로 완전한 윤리적 행위자다. 명시적인 도덕적 판단을 내릴 수 있으며 일반적으로 그런 결정을 정당화하는 데에도 능한 기계를 가리킨다. 이런 수준의 성능은 의식․의도성 그리고 자유의지 능력을 필요로 할 것으로 짐작 된다. 사람의 경우에도 만약 이 세 가지 능력 중 하나라도 없으면 그 사람의 도덕적 행위의 타당성 및 법적 책임이 의심을 받는다.‘윤리적 영향’ 행위자나 ‘내재적인 윤리적’ 행위자인 인공 시스템을 상상하기는 비교적 쉽지만, 명시적인 윤리적 행위자만 하더라도 만만한 개념이 아니다. 많은 철학자(그리고 일부 과학자)는 완전한 윤리적 행위자인 기계를 만드는 일은 불가능하다고 열변을 토한다. 이런 철학자와 과학자는 인간이 의식․의도성 및 자유의지를 지닌 인공 지능 행위자를 만들 수 있다는 것을 의심하면서 명시적인 윤리적 행위자와 완전한 윤리적 행위자 사이에는 명확한 구분선이 존재한다고 주장한다.” 61-62쪽.인간중심주의를 탈피하고 어떤 존재에게까지 권리 의 범위를 확장할 수 있을까. 응용윤리연구 첫시간부터 마지막 시간까지 강조하셨던 문제이다. 이 책에서는 우리가 흔히 사용하는 용어인 로봇을 (로)봇 으로 표기하고 있다. 로봇이라는 단어가 이미 그 존재를 자유 의지 없는인간의 노예처럼 보는 단어이기 때문이다. (로)봇을 철저히 물리적 존재로서 기계로 보고 계속 부려먹고 싶고 권리 부여에 대해 고민하고 싶지 않다면AMA 만들기 자체를 금하는 편이 맞겠다. 기왕 (로)봇이 가질 수도 있는 도덕적 지위에 대해 논의할 때 그 존재를 로봇이 아니라 (로)봇으로 부르고자 하는 자세가 진정성 있어보인다.완벽한 예상은 불가능하겠지만 관련 논의를 해두지 않으면SF 영화에서처럼포스트 휴먼이든 (로)봇이든 사피엔스 다음에 나온 (어쩌면 사피엔스보다 모든 방면에서 우월한 능력을 가진) 새로운 종에게 인간이 노예로 부려질 날이 올지도 모른다. 인간과 앞으로 나타날 새로운 종을 구분할 때 어디에서 경계를 지어야 할지는 어렵고 모호하지만, 적어도인간이 가진 유한성 이 중요한 기준 중 하나가 될 테다. 도덕적 행위에 적용해보자면잘 만들어진강한 인공지능으로서 (로)봇은 인간보다 범죄나 실수를 덜 저지를 가능성이 확연히 높을 듯하다(소설, "완벽한 호모 사피엔스가 되는 법"에서 주인공인 기계는 인간 같아지기 위해 의도적으로 범죄나 실수를 저지르는 방법마저도 배운다). 이 맥락에 따르면 예의 기계공학 전문가께서 말씀하셨듯 (로)봇 입장에서는 인간 존재, 너나 잘하세요. 라는 생각을 할 법도 하다. (현대는 인간이 실질적 자유의지를 가졌다고 인정하지 않는 시대라 하더라도) 자유 같아보이는 여지를 가지고 있기 때문에 범죄를 저지를 가능성 또한 갖는다. 그러므로 인간과 유사한 강한 인공지능이 나오기 전까지 AMA에서 의도적 범죄보다는 판단 오류로 인한 실수를 걱정해야할 테다. 이고르 알렉산더가 주장했다는, 의식의 요건 다섯 가지 영역 “자의식․상상․집중․계획 세우기 그리고 감성.”120쪽.과 같은 고도의 정신 능력을 특정 기계가온전히 갖추기 전까지는 그 존재를 강한 인공지능이라고 보기 어려울 테다. “인지 능력에 대해 체화된 관점을 취하는 과학자들은, 자기조직적이고 자기관리적이며 생존․번영․번식을 위해 활발하게 노력하는 생물체의 본성을 인식하지 못하면 인지 능력을 이해할 수 없다고 주장한다. 이런 관점에 따라 철학자 스티브 토런스는 자신이 명명한, 이른바 윤리에 관한 ‘견고한’ 견해를 옹호한다. 느낌․지각․의식을 지닌 생물체만이 본질적으로 도덕적 행위자가 될 수 있다는 견해다.” 288쪽.이를 위해서는 기계에게 인간과 흡사한 수준인물리적 신경 감각체와 뇌를 구현해야할 테다. 비의도적 실수와 같은 행위를윤리 영역으로 보아야 할지 논란의 여지가 있기 때문에, 약한 인공지능 수준까지는 기계에게 도덕적 책임을 물을 필요가 별로 없겠다는 잠정적 결론을 내리며 책을 덮었다.“윤리는 인간의 본질을 규정하는 핵심 개념에 훨씬 더 가까운 것이다. 도덕적 행위자로서 인간 경험의 핵심적 특성은, 사람이란 이기적 행동과 이타적 행동 사이에서 균형을 잡는 존재라는 점이다. 사람들은 두 가지 방향의 인력을 느끼는데 이 긴장이 자유의 가능성-나쁜 일과 옳은 일을 할 동등한 자유-을 마련한다. (어떤 윤리학자들은 심지어 비윤리적으로 행동하는 것이 불가능하면 윤리적으로 행동하기도 불가능하다고 주장한다.)” 108쪽.
로봇의 윤리에 대한 포괄적인 안내서
공상과학 소설과 영화를 통해 꾸준히 제기되어온 로봇의 도덕성은 각종 서비스 로봇, 전투병 로봇, 개인화된 검색엔진 기술, 자동화된 컴퓨터 시스템 등 지능 기계의 출현으로 이제 현실 속으로 들어오고 있다. 인간의 감독 없이 스스로 판단하는 인공지능 시대에 로봇을 포함한 모든 지능적 기계의 지침이 될 윤리적 규칙을 어떻게 만들어야 할까?
이 책은 로봇 윤리라는 신흥 분야에 관한 최초의 입문서이자 로봇의 도덕에 관한 포괄적인 안내서다. 예일 대학교의 ‘생명윤리를 위한 학제간 센터’의 윤리학자와 인디애나 대학교의 인지과학 교수가 공저한 이 책은, 공상과학 소설의 통속적 화두에서부터 첨단 로봇공학의 과제에 이르기까지 다양한 층위의 흥미로운 소재를 통해 왜 로봇의 도덕에 관한 연구가 지금 필요하며 그것에 관련된 기술적 사안은 무엇인지를 상세하게 설명한다.
영화 나 의 종말 시나리오는 과연 실현 가능한가 라는 얘기부터, 만약 컴퓨터가 도덕적 결정을 내리는 것이 필요하다면 공학자와 철학자는 이를 어떻게 설계해야 하는가 라는 실제적인 공학적 과제까지 로봇공학・철학・인지과학・도덕심리학・신경윤리학・인공두뇌학・진화생물학・게임이론 등 다양한 분야의 최신 연구 성과를 토대로 체계적이고 명료하게 서술하고 있다.
무엇이 옳고 그른가 라는 가치 판단은, 그 판단을 내리기 애매한 경우가 다반사인 인간사 때문에 아리스토텔레스 이래 가장 첨예한 인문학적 고민이었다. 한편 명쾌한 지침과 계량화된 기준값이 있어야 연구 가능하다는 것이 공학자들의 멘탈 모델이다. 인문학적 모호성을 명쾌한 알고리즘으로 변환해 프로그램으로 만드는 공학적 과제가 얼마나 지난한 일인가 하는 것을 알려주는 동시에 왜 지금 우리가 그 지난한 일을 고민해야 하는가를 깨닫게 해주는 데 이 책의 의의가 있다.
저자들은 이 책을 쓴 목적은 단지 많은 질문을 던지는 것뿐 아니라 이런 주제에 관한 향후의 발전을 위해 자료를 제공하기 위해서 라고 밝히면서 이 도전 과제를 다루는 과정에서 인류는 자신들이 얼마나 경이로운 생명체인지를 이해하는 데 의미심장한 발전을 이룰 것이다. 인간의 능력을 (로)봇에 구현하는 데 필요한 단계적인 절차를 세세하게 밟아가며 도덕적 결정이 내려지는 방법에 따라 사고하는 연습은 따라서 자기 이해의 과정인 셈 이라고 말한다. 즉 옳고 그름을 구별할 수 있는 (로)봇 설계 과정이 인간의 윤리적 의사결정에 대해 많은 것을 드러내주는 일인 만큼 로봇의 도덕을 구현하는 일은 인간을 이해하는 과정이라는 얘기다.
카테고리 없음