프로그램
일 시 2016. 10. 17(월) 09:00 ~ 12:00
장 소 소프트웨어정책연구소 회의실 (판교글로벌R&D센터)
주 제 강인공지능 연구동향과 미래
발 제 자 정지훈 (경희대학교 교수)
참 석 자 SPRi 연구진

ㅇ ANI(약한인공지능) : 특정영역의 문제를 풀어내는 인공지능
ㅇ AGI(강한인공지능) : 인간수준의 인공지능(일반인공지능)
ㅇ ASI(슈퍼인공지능) : 사람보다 모든 분양에서 뛰어난 인공지능, Transhumanism(인간이 한 단계 뛰어넘은 종으로 진화)

- AGI에 도달하면 ASI에 도달하는 것은 순식간
- AGI까지 갈 수 있는가? 언제 도달할 수 있을 까?대략 2040년에 AGI, 2060년에 ASI(Median Expert Prediction)

 ㅇ Intelligence Explosion

- 과거의 데이터를 가지고 잘못 예측(Exponential growth를 예측할 수 없다)
- Exponential growth를 대비를 위해 기술적 접근이 아닌 사회, 문화적 접근 준비를 해야 함

 ㅇ Evolution of intelligence

- 사회학, 인지과학에서의 지능은 인간을 중심으로 생각

 ㅇ Neural precursors

- Obelia : 최초의 신경계, action potential등장, 위험에 대한 반응
- 해면 : 시넵스 등장, 신호를 모아서 전송하는 체계 갖춤, 환경에 대한 반응
- 해파리 : 센서뉴런 등장,
- Nerve cords : 신경세포의 묶음을 생성하여 각 허브가 전달받은 신호를 제어하는 구조의 최초의 ‘뇌’등장, 허브를 보호하기 위한 각종 기관 발달
- 인공지능은 뉴럴네트워크 형식으로 발전

 ㅇ Moral machine

- AMA가 필요한 것인가? 인간은 컴퓨터의 도덕적 판단을 원하는가?어떻게 만들 것인가?
- Top-down vs bottom-up
* top-down은 정답을 어느 정도 그려낼 수 있어야 해서 풀어낼 수 없는 문제가 매우 많음(Google은 top-down approach거의 배제)
* bottom-up은 게임이론이나 진화이론을 기본으로 접근, 경험의 수치를 늘리면서 어떤 것이 옳은 것인지 판단하여 시간에 따라 발전해 간다는 것에서 인간의 성장과정과 유사(Google과 deep mind의 주요 방식)그러나 인간에게는 잘못된 판단에 대해 시정할 수 있는 사회적 합의(유예기간, 미성년기간)이 있으나 AI의 잘못된 판단에 대한 유예의 문제가 발생할 수 있다는 것이 매우 심각
* 확실한 부분은 Top-down, 불확실한 부분은 bottom-up을 통해 두가지 방식의 결합 필요

 ㅇ AI에서의 Intelligence

- 강인공지능은 현재 정보가 불완전하고 적음에도 문제를 풀어내고, 지속적으로 시도할 수 있는 것이 핵심
- 일관적인 목적에 기능성을 갖추어야 함
- 환경과 부족한 지식, 소스를 가지고도 무언가를 해결할 수 있는 지능

 ㅇ 딥러닝에만 집중할 것이 아니라 강인공지능도 매우 중요한 분야> ㅇ 각 분야의 연결을 위한 노력도 필요> ㅇ 철학, 수학, 심리, 인지과학, 언어학 등의 Combination이 있어야 인공지능에 대한 발전이 가능할 것>  > ㅇ 딥러닝의 은닉층의 해석이 강인공지능의 singularity인가?

- 아니다. 딥러닝의 은닉층을 찾아내는 것 자체에 의미가 있는 것
- 강인공지능 또는 ASI를 통제해야하는 입장에서 보았을 때 중요한 연구

 ㅇ 현재 뇌과학은 어디까지 와있나? 생리학적인 뇌의 분석이 강인공지능에 얼마나 적용되어있는지?

- 상당부분 적용이 되어 있지만 대부분 무익적인 시도가 많은 것으로 보이고 그러한 시도들이 어떤 발전까지 이루어 낼 수 있는지는 알 수 없음
- 특정학문의 선입견에 사로잡히면 다른 학문을 알아도 그것을 깨고 나오는 것이 쉽지 않지만 계속적인 노력이 필요

 ㅇ 인공지능에게 윤리학습이 가능한지, 좋은 의도를 담아낼 수 있을지?

- 인간이 보기에 윤리적 판단을 할 수 있다고 느끼게 할 수 있을 것으로 보임
- 인공지능이 스스로를 발전시킬 수 있을지는 모르겠으나 그 시점에서 인간의 통제를 떠난 것

 ㅇ 강인공지능이 필요한 어플리케이션은 어떤게 있을 까요?

- 특정한 미션을 주고 풀어내라는 것 이외에 유연한 판단을 요하셔 시간을 두고 풀어내야할 문제를 가진 어플리케이션이라면 모두 해당

 ㅇ 인공지능의 진화에 컴퓨팅 능력의 향상이 기여한 정도는?

- 정량적으로 측정할 수는 없으나 큰 기여가 있었고 앞으로도 그럴 것
- 하지만 단순히 뇌만 교체한다고 해서 인간이 옮겨가는 것이 아닌 것처럼 하드웨어의 발전도 매우 중요