인간을 대신하여 더 빨리, 더 정교하게 일을 해 줄 인공지능 덕분에 생산성이 향상되고 사람의 여가 시간을 더욱 늘어날 것으로 예상된다. 그러나 그 때문에 사람의 일자리가 감소하고 안전이 위협받을 수 있다고 예상되기도 한다. 따라서 인공지능 기술 발전을 위한 노력과는 별도로 그것이 가져올 역기능에 대한 국가·사회적 대처가 필요하다.
그와 같은 국가·사회적 노력은 정책과 이를 뒷받침할 법제의 형태로 구체화된다. 이 보고서는 지능정보사회에 대응하기 위한 법제의 현황과 그 문제점, 그러한 문제점을 해결하기 위한 대안을 제시하는 것을 그 목적으로 한다.
3. 연구의 구성 및 범위
지능정보사회에 대응하기 위한 법제의 현황과 그 문제점, 그러한 문제점을 해결하기 위한 대안을 제시를 위하여 우선 인공지능에 대비하여 미국, 유럽연합, 중국, 일본과 같은 선진국에서는 어떠한 준비를 하고 있는지 그 동향을 살펴보았다(제2장). 그리고 인공지능이 대비하여 한국에서 어떠한 준비를 하였는지 그 동향을 살펴보았다(제3장). 그리고 한국에서 준비가 어떤 문제가 있으며, 그 개선 방안은 무엇인지 제시하였다(제4장).
4. 연구 내용 및 결과
미국, 유럽연합, 일본, 중국에서는 지능정보사회에 적절히 대응하기 위하여 적극적인 정책을 추진하고 있었다. 미국은 2016년 10월 “인공지능 국가 연구 개발 전략 계획”, “인공지능의 미래를 위한 준비”보고서를 통해 기술과 산업 진흥, 국가·사회적 대응을 위한 시사점을 제시하고 있었다. 유럽연합은 2012년 “유럽에서의 기술 규제 : 로봇에 대한 법과 윤리의 당면과제(RoboLaw Project)”와 2016년 “규칙 초안을 위한 보고서”(Draft Report)를 통하여 국가·사회적 대응을 위한 구체적인 윤리와 법제적인 대응 방안을 제시하고 있었다. 중국은 2016년 “로봇산업발전규획”을 통하여 2020년까지 로봇산업의 건강하고 지속가능한 발전을 추진할 것을 목표로, 제조업분야의 새로운 국면을 창출하고 공업수준을 한 단계 끌어올려 중국로봇기술이 세계 로봇 산업을 선점하기 위한 방법을 제시하고 있었다. 일본은 2015년 “로봇 신전략”을 통해 시계의 로봇 기술 혁신 거점, 세계 제일의 로봇활용 사회, 세계를 선도하는 로봇신시대에 대한 전략을 제시하고 있었다. 또한 “지식재산추진계획 2016”에서는 인공지능과 관련한 지식재산 정책 방향을 제시하였다. 이와 같이 유럽연합은 인공지능이 초래할 국가·사회적 영향을 검토하고 이에 대비하기 위한 윤리·법제적 대응에 중점이 있는 반면, 중국·일본은 인공지능 기술의 발전과 산업 진흥을 목표로 이를 달성하기 위한 법제적 대응에 중점을 두는 특징을 보였다. 미국은 기술의 발전과 산업 진흥, 국가·사회적 영향을 검토하고 이에 대비하기 위한 윤리·법제적 대응이 필요하다고 인정하면서도 구체적인 대응 방법을 제시하기 보다는 지속적인 모니터링을 할 것을 권고하는 특징을 보였다.
우리나라는 지난 2007년부터 행정부 주도로 로봇윤리헌장을 제정을 위한 노력을 전개하였다. 그 목표 중 하나는 IEEE 국제 컨퍼런스에서 한국이 로봇윤리헌장 제정을 제안하는 것이었다. 그리고 그러한 정책 추진을 뒷받침하기 위하여 「지능형 로봇 개발 및 보급 촉진법」도 제정하였다. 그러나 행정부 주도 작업 경향, 전문가 경시 경향, 기술자와 사회과학자, 정책입안자 등의 협업 부족 등으로 목표를 달성하지 못하였다. 그 후 로봇 산업을 비롯한 인공지능 산업은 다른 ICT 산업에 비하여 진흥되지 못하였으며, 관련 연구 성과도 축적되지 못하였다. 한동안 소강상태에 있었던 정책적 대응은 2016년 알파고 현상을 계기로 재점화되었다. 그리하여 「지능정보사회 중장기 종합대책」이 발표되고, 「지능정보사회기본법」 제정을 논의하고 있다. 윤리헌장을 만들려는 노력도 재개되고 있다. 그러나 행정부 주도의 산업 진흥 정책을 추진하기 위한 법적 근거는 이미 마련되어 있고, 현재 기술 수준을 고려하여 보았을 때 법령을 통한 규제 정책은 너무 이르다. 인공지능 연구와 그 응용을 위한 개별적인 법적 장애가 무엇인지는 현장에서 이미 제기되었고 그 해결책도 제시되고 있다. 한편, 연구와 그 응용이 인간의 존엄성을 침해하거나 인체에 위해를 끼치는 것을 막아 인공지능 윤리와 안전을 확보하기 위한 구체적인 정책이 필요하다.
이 보고서에서는 ICT 영역에서 사회문제를 해결하는데 법과 윤리 등 사회 규범의 기능과 시장, 기술 등과의 기능 분담을 고려하여야 하고, 인공지능 기술 발달 수준과 인공지능에 대한 존재론적 지위에 기초하여 인간의 존엄성과 안전을 보호하기 위하여 당장 필요한 것은 연구자·설계자·제작자·관리자·이용자에 대한 윤리와 사회적 인식 제고를 위한 윤리를 가이드라인 형식으로 제안하였다.
구체적으로 서술하면 현재 인공지능의 기술 수준을 발전기에 진입한 단계로 파악하고, 법적 강제력 없는 가이드라인(guideline) 형식을 통한 규율이 필요하다고 결론지었다. 그리고 인공지능을 판단과 행위 능력을 지닌 주체로 보거나 특별한 속성을 지닌 인공물로 보는 것을 넘어 ‘외화된 사회적 정신’(externalized social mind)으로 인식하는 것이 타당하다고 결론지었다. 이러한 인식에 따르면 현재 기술 수준의 인공지능을 별도의 권리와 의무의 주체로서 인정하기 곤란하지만, 앞으로 기술 발전이 진전된다면 별도의 권리와 의무의 주체로서 인정할 가능성도 열어둘 수 있다. 이러한 전제에 기초하여 현재 인공지능 윤리는 사람의 윤리이어야 하며, 인간의 존엄성과 안전을 보호하기 위하여 현재 시점에서 필요한 것은 연구자·설계자·제작자·관리자·이용자에 대한 윤리와 사회적 인식 제고를 위한 윤리를 총20여개 조문의 가이드라인 형식으로 제안하였다.
한편 강제력을 바탕으로 한 법적 효력이 없는 가이드라인을 보충하기 위하여 국내적으로는 (가칭) 국가인공지능윤리위원회와 기관인공지능윤리위원회를 설치하고, 국제적으로는 인공지능 윤리 레짐(regime)을 창설할 것을 제안하였다.
한편, 이 보고서는 지능정보사회에 대응하기 위한 법제의 현황과 그 문제점, 그러한 문제점을 해결하기 위한 대안을 제시하는 것을 그 목적으로 하다보니, 인공지능이 고용, 교육 등 국가와 사회에 가져올 변화를 예측하고 이에 대한 정책의 대응에 관해서는 본격적으로 다루지 못하였다. 이 보고서의 한계이고 앞으로 연구 과제이다.
5. 정책적 활용 내용
인공지능 연구와 그 응용 상황을 고려하여 보았을 때 현재 상황에서, 인간의 존엄성과 안전을 보호하기 위하여 연구자·설계자·제작자·관리자·이용자가 윤리적으로 행위할 수 있도록 구체적인 행위 규칙이 필요하다. 이 보고서에서 제시한 가이드라인은 국가가 이와 같은 구체적인 행위 규칙을 제정하는데 초안으로서 기능할 수 있을 것이다. 한편, 가이드라인을 보충하기 위한 조직법적 제안, 즉 국내적으로는 (가칭) 국가인공지능윤리위원회와 기관인공지능윤리위원회의 설치하고, 국제적으로는 인공지능 윤리 레짐 창설 제안은 인공지능 연구와 그 응용을 규율하는 정책적 대안이 될 수 있을 것이다.
6. 기대효과
미국 전국공학인협회(NSPE)의 공학윤리헌장(Code of Ethics for Engineers)이 공학자에 대한 사회적 신뢰를 높여 공학자에게 자유를 부여하였듯, 인공지능 관련 가이드라인은 관련 연구와 그 응용에 사회적 신뢰를 높이고, 연구자·설계자·제작자·관리자 등에게 안정적인 자유 영역을 지키게 해 줄 것이다. 그리고 궁극적으로 인공지능 산업과 그 핵심인 소프트웨어 산업이 예측가능성을 가지고 연구와 개발, 그 투자를 할 수 있도록 하는 기반이 될 것이다.
SUMMARY
1. Title
A Proposal of the Ethical Guideline for Artificial Intelligence
2. Purpose and Necessity
Thanks to artificial intelligence that would replace human's works, it is expected that productivity will improve and leisure time will increase. On the other hand, it is also expected that artificial intelligence will reduce the number of human's jobs and even threaten our safety. To prevent these side effects of artificial intelligence, appropriate national and social measures need to be established.
These sorts of national and social measures can be specified as policies or laws supporting those policies. This report aims to diagnose the current state of laws for artificial intelligence society and their problems, and to present alternative solutions.
3. Composition and Scope
To diagnose the current state of laws for artificial intelligence society and their problems, and to provide alternative solutions, this report has examined the trend of developed countries including the U.S., European Union, China and Japan on preparations for the future artificial intelligence society. (Chapter 2) Moreover, this paper covers how Korea has been preparing for the future artificial intelligence society. (Chapter3) Furthermore, the report points out some problems about preparations that Korea has been set up for artificial intelligence, and provides right solutions for them. (Chapter 4)
4. Findings and Result
The U.S., EU, Japan and China have been enforcing aggressive policies to respond appropriately to artificial intelligence society. The U.S. published the reports named “National Artificial Intelligence Research and Development” and “Preparing for The Future of Artificial Intelligence” in October 2016. EU also published “Regulating Emerging Robotic Technologies in Europe: Robotics facing Law and Ethics – also known as RoboLaw Project-” in 2012 as well as “Draft Report” in 2016. China announced “Robot industry development plan." Also, Japan has publicized “Japan's Robot Strategy” in 2015, and "Intellectual Property Promotion Plan 2016” in 2016.
Overall, EU focuses more on scrutinizing national and social effects of artificial intelligence and establishing ethical and legal solutions for them. On the other hand, China and Japan put more importance on setting goals of improving artificial intelligence technology and its industry and preparing legal steps in order to achieve those goals. In case of the U.S., it acknowledges the necessity of reviewing technological development, industrial advancement and national and social effects. Instead of providing specific measures, however, it only suggests more and continuous monitoring on artificial intelligence issues.
Since 2007, Korea has been making efforts to enact “The Chapter of Robotics Ethics” led by Ministry of Industry and Energy (present. Ministry of Trade, Industry and Energy). One of their goals was that Korea proposes to enact of “The Chapter of Robotics Ethics” at IEEE international conference. To support those drive policies, Korea has enacted 「Intelligent Robots Development and Distribution Promotion Act」. The policy response that came to a lull got a chance to reignite after AlphaGo syndrome in 2016. As a result, 「Intelligence information society Mid-to Long-Term Comprehensive Plan」 was announced, and whether to enact 「FRAMEWORK ACT on Intelligence information society」 is on discussion table. Plus, the effort has recently been remade to create the Chapter of Ethics.
This report argues for the division of functions among social norms such as laws and ethics, markets, and technologies to deal with social issues related to ICT field. Therefore, this report presents ethics in forms of guidelines of 20 provisions that is believed necessary for ethical and social cognitive improvement for designer, manufacturer, maintenance and administration, in order to protect human dignity and safety based on the level of artificial intelligence technology development and ontological status of artificial intelligence.
Meanwhile, it has suggested to establish National Artificial Intelligence Ethics Committee and Artificial Intelligence Ethics Commission within the country and to put regime of artificial intelligence ethics internationally to complement the guidelines lack in legal validity.
5. Practical Use of Policy
The guidelines that this report provides can work as a governmental draft for specifying ‘The Behavior Regulation'. Also, legal organization suggestions to complement guidelines such founding establish National Artificial Intelligence Ethics Committee and Artificial Intelligence Ethics Commission within the country and putting regime of artificial intelligence ethics internationally would work as alternative policies on artificial intelligence studies and regulations on its applications.
6. Expections
As Code of Ethics for Engineers of the NSPE, the U.S, has given the freedom to engineers by raising the social trust toward engineers, the guideline of artificial intelligence also can be kept a stable independence area to designers, manufacturer, maintenance and administration by raising social trust on the related research and applicant. Finally, it is guaranteed to be foundation for making research, development and its investment within having the predictability by artificial intelligence industry and their key point of software industry.
목차 상세
제 1 장 서론
제 1 절 연구의 목적
제 2 절 연구의 범위와 방법
제 2 장 국외 인공지능 관련 윤리 정책 및 법제 동향
제 1 절 미국의 윤리 정책 및 법제 동향 분석
1. 백악관 국가과학기술위원회 “인공지능 국가 연구 개발 전략 계획”
2. 백악관 국가과학기술위원회 “인공지능의 미래를 위한 준비”
제 2 절 유럽연합(EU)의 윤리 정책 및 법제 동향 분석
1. 유럽로봇연구네트워크 “로봇윤리 로드맵”
2. 유럽에서의 기술 규제 : 로봇에 대한 법과 윤리의 당면과제
(약칭 : LoboLaw Project)
3. 2014년 “로봇규제 가이드라인”
제 3 절 중국의 윤리 정책 및 법제 동향 분석
1. 개요
2. 로봇산업발전규획
3. 인공지능과 인간의 역할에 대한 담론
제 4 절 일본의 윤리 정책 및 법제 동향 분석
1. 경제산업성 “로봇 신전략”
2. 지식재산전략본부 “지식재산추진계획 2016”
제 5 절 국제단체의 윤리 정책 및 법제 동향 분석
1. IEEE “윤리적으로 조화로운 설계”
제 6 절 소결
제 3 장 국내 인공지능 관련 윤리 정책과 법제 동향 분석
제 1 절 인공지능 윤리 관련 정책 동향 분석
1. 로봇윤리헌장 제정을 위한 작업의 사례
2. 기타 최근의 정책적 시도
제 2 절 인공지능 법제 동향 분석
1. 기존 법제
2. 최근 논의
제 3 절 소결
제 4 장 윤리 정책과 법제의 대안
제 1 절 현실문제와 그에 대한 대응 방안
1. 인간행위의 규율수단
2. 변화하는 현실에 적응할 수 있는 법 정립을 위한 원칙
제 2 절 윤리적인 관점의 분석과 쟁점 연구
1. 인공지능의 존재론적 지위
2. 공학윤리의 활용
3. 인공지능 및 인공지능 로봇에 관한 윤리의 기본틀
제 3 절 가이드라인의 제안
1. 가이드라인의 필요성
2. 인공지능 윤리 가이드라인 제안
제 4 절 법제 정비방안
1. 가이드라인의 불완전성과 보충 필요성
2. (가칭) 국가인공지능윤리위원회와 기관인공지능윤리위원회의 설치
3. 국제적인 인공지능 윤리 레짐의 창설
4. 그 밖의 법제정비방안
제 5 절 가이드라인과 법제정비방안이 SW산업분야에 미치는 영향 분석
제 5 장 결론
참 고 문 헌
CONTENTS
Chapter 1. Introduction
Section 1. Purpose of study
Section 2. Method of study
Chapter 2. Research Overseas Trend of Ethic Policy and Legal of Artificial Intelligence
Section 1. United States of Ethic Policy and Legal of Artificial Intelligence
Section 2. European Unions of Ethic Policy and Legal of Artificial Intelligence
Section 3. China of Ethic Policy and Legal of Artificial Intelligence
Section 4. Japan of Ethic Policy and Legal of Artificial Intelligence
Section 5. International Organization of Ethic Policy and Legal of Artificial Intelligence
Section 6. Conclusion
Chapter 3. Research Internal Trend of Ethic Policy and Legal of Artificial Intelligence
Section 1. Analysis of policy trend of artificial intelligence Ethics
Section 2. Analysis of legal trend of artificial intelligence Ethics
Section 3. Conclusion
Chapter 4. Political and Legal Proposal
Section 1. Analysis and Issue study of ethic perspective
Section 2. Actual problem and plan for reaction
Section 3. Proposal of guideline
Section 4. Plan for modify the legal
Section 5. Effect of the guideline and the plan for enact the law on the field of SW.
