Star Trek Today : 인류는 초 지능 인공 지능을 제어 할 수 없을까요?

최근 이론 연구의 저자들은 인류가 초 지능 인공 지능 (AI)을 통제하지 못할 수도 있다고 믿습니다. 게다가 우리는 이런 종류의 AI (인공 지능) 만들었습니다.
인공 지능 알고리즘의 급속한 발전이 우리 눈앞에서 일어나고 있습니다. 기계는 이동 및 포커에서 인간을 상대로 승리하고, 숙련 된 전투기 조종사를 공중전에서 이기고, 시행 착오를 통해 처음부터 배우고, 의학 및 생명 과학 분야의 위대한 혁명을 예고하고, 새와 의사를 진단하고, 개별 새를 더 잘 구별합니다. 인간보다. 이것은 많은 분야에서 얼마나 빠른 진전이 있는지를 보여줍니다.

이미지 출처 : Pixabay

이러한 발전으로 인공 지능을 제어 할 수 있을지에 대한 우려가 생깁니다. 적어도 수십 년 동안 제기 된 우려. 우리는 1942 년부터 유명한 세 가지를 알고 있습니다 로봇의 법칙작가를 좋아 한 사람 이삭 Asimov 그의 단편 소설 "The Game of Tag"에서 설명 :

1) 로봇은 사람에게 해를 끼치거나 행동하지 않아 사람에게 해를 입히지 않아야합니다.

2) 로봇은 첫 번째 법칙을 위반하지 않는 한 인간의 명령에 따라야합니다.

3) 로봇은 제 XNUMX 법칙이나 제 XNUMX 법칙을 위반하지 않는 한 스스로를 보호해야합니다.

나중에 추가 아시 모프 중요한 법칙 0이 추가되었습니다. 로봇은 인류에게 해를 끼치거나 누락으로 인해 해를 끼쳐서는 안됩니다.2014 년에 옥스포드 대학의 인류 미래 연구소 소장 인 철학자 닉 보스 트롬 (Nick Bostrom)은 초 지능 AI가 우리를 어떻게 파괴하는지, 어떻게 제어 할 수 있는지, 그리고 다양한 제어 방법이 작동하지 않는 이유를 연구했습니다. Bostrom은 AI 제어와 관련하여 두 가지 문제를 확인했습니다. 첫 번째는 AI가 할 수있는 일을 제어하는 ​​것입니다. 예를 들어 인터넷에 연결해야하는지 여부를 제어 할 수 있습니다. 두 번째는 원하는 작업을 제어하는 ​​것입니다. 예를 들어, 그를 통제하기 위해 우리는 그에게 인간과 평화로운 공존의 원칙을 가르쳐야합니다. Bostrom이 지적했듯이, 초 지능 AI는 우리가 할 수있는 일에 적용하고 싶은 한계를 극복 할 수있을 것입니다. 두 번째 문제에 관해서 Bostrom은 우리가 초 지능 AI 무엇이든 가르 칠 수 있습니다.

이제 Manuel Alfonseca와 Universidad Autonoma de Madrid의 그의 팀은 인공 지능 제어 문제를 해결하기로 결정했습니다. 그는 그의 작업 결과를 인공 지능 연구 저널.

스페인 사람들은 AI가 사람에게 해를 끼치 지 않도록 보장하는 모든 알고리즘이 먼저 사람에게 해를 끼칠 수있는 행동을 시뮬레이션하여 기계가 인식하고 중지 할 수 있도록해야한다고 지적합니다. 그러나 연구자들에 따르면 어떤 알고리즘도 인공 지능의 행동을 시뮬레이션하고 특정 행동이 인간에게 해를 끼칠 가능성이 있는지를 절대적으로 확실하게 결정할 수 없을 것이라고합니다. 이미 입증되었습니다 Asimov의 첫 번째 법칙 계산할 수없는 문제입니다.
게다가 우리는 우리가 초 지능 기계를 만들었다는 사실조차 모를 수도 있다고 연구원들은 결론지었습니다. 그 이유는 라이스의 정리, 컴퓨터 프로그램의 코드를 보는 것만으로는 결과를 추측 할 수 없다는 의미입니다.

그러나 Alfonseca와 그의 동료들에게도 좋은 소식이 있습니다. 글쎄, 우리는 더 이상 슈퍼 스마트 AI가 할 일에 대해 걱정할 필요가 없습니다. 실제로 스페인 인이 수행하는 연구 유형에는 세 가지 주요 제한 사항이 있습니다. 첫째, 이러한 초 지능형 AI는 200 년 안에 등장 할 것입니다. 둘째, 이러한 유형의 인공 지능, 즉 인간만큼 많은 영역에서 지능적인 기계를 만드는 것이 가능할지 여부는 알려져 있지 않습니다. 셋째, 초 지능 AI를 제어 할 수 없더라도 좁은 범위에서 초 지능 인 인공 지능을 제어 할 수 있어야합니다.