서론
테슬라의 CEO인 일론 머스크가 설립한 뉴럴링크 사의 목표는
인공지능과 인간의 뇌를 연결해서 디지털 초지능을 구현하는 겁니다.
예를 들면 텔레파시나 생각만으로 자동차 운전이 가능하고
대용량 정보도 쓰-윽하면 사람의 뇌에 즉시 다운로드할 수 있습니다.
하지만 어쩌면! 뉴럴링크는 "약한 AI"의 사례에 불과합니다.
언젠가는 모든 면에서 인간의 능력을 초월하는 초지능 AI가
등장하게 되고, AI는 인류의 모든 데이터에 접속해서 독자적으로
학습할 수 있게 될 것입니다.
따라서 "강한 AI"는 기존의 모든 프로그램을 대체하고
전 세계의 모든 온라인 기계를 통제하면서,
거의 모든 인간과 관계를 형성할 수 있을 것으로 보입니다.
미래학자 레이 커즈와일의 "특이점이 온다"라는 저서의 AI가
인간의 능력을 넘어서는 특이점에 도달해 초지능 시대가 열리는
시기를 2045년으로 예측하고 있습니다. 하지만 코로나 19가 촉발함
비대면 일상은 AI의 발달을 엄청난 속도로 확산시키고 있습니다.
첫 비대면 온라인으로 개최되고 있는 세계 최대 전자전시회 CES 2021
역시 같은 추세를 보이고 있습니다. "올 디지털"이라는 컨셉으로
이 행상의 온라인 세션 주제는 "넥스트 노멀"에 대한 기대를 표출하고 있는데,
첫 세션이 "AI의 파워"이기 때문입니다. 일부의 사람들은 2021년을
AI와 디지털 기술에 대한 "전환의 해"로 보기도 한답니다!
아래는 연관 게시글입니다.
코로나 종식) 코로나 종식. 언제쯤 가능할까?? 현재 코로나 상황 정리
서론 2019년 1월 20일 국내 코로나 첫 확진 처음엔 그냥 지나가겠거니~~ 했지만 우리는 벌써 2년 동안 고통스러운 시간을 겪고 있습니다. 감염에 대한 두려움 직장인, 자영업자들의 경제 난 등등..
abc1225.tistory.com
사람을 닮은 AI) 인간과 같은 사고방식을 하는 AI 인공지능 알고리즘
서론 사람의 뇌는 무수히 쏟아지는 시각 정보 중에서 어떤 정보가 유용하고 어떤 정보가 유용하지 않은지 판단해야 합니다. 복잡한 환경 속에서 의사결정을 할 때 뇌는 많은 양의 데이터를 바탕
abc1225.tistory.com
옥스퍼드대학 철학과 교수는 초지능 AI가 노동력을 책임지게 되면
인류는 오락과 문화에 심취할 수 있는 유토피아가 올 수 있다고 생각합니다.
단, 여기엔 조건이 붙었습니다.
인류가 AI를 원하는 방향으로 설계해 안전하게 운용해야 한다는 것.
그는 만약에 인류가 AI를 통제하지 못했을 시에
디스토피아를 맞이할 수도 있다고 경고했습니다.
과거 스티븐 호킹 박사도 AI를 윤리적으로 설계해 기계의 반란에 대비할
안전장치를 마련해야 한다고 엄청나게 강조했었습니다.
인류가 AI를 안전하게 통제할 수 있는 방법만 찾는다면 초지능 AI가
그려낼 세상은 그리 어둡지는 않다는 의미인 것 같습니다.
※디스토피아:유토피아의 반댓말.
본론
독일의 인간개발연구소의 한 박사를 포함한 국제 연구팀이
이론적인 계산을 통해 도찰한 이 연구 결과는 AI 분야의 오픈 액세스
과학 저널인 "인공지능 연구 저널"(JAIR)에 게재되었습니다.
과학자들이 생각해온 초지능 AI의 통제방법 두 가지
첫 번째 방법은 인터넷을 포함한 다른 모든 기술 장치로부터
AI를 차단하여 외부세계와 아예 접속을 하지 못하게 하는 것입니다.
하지만 이 방법은 안전하다곤 할 수 있지만, AI의 능력을 제한해
훨씬 덜 강력한 초지능 AI를 탄생시킬 뿐입니다.
두 번째 방법은 인간에게 결코 해를 가할 수 없는 윤리 원칙을
프로그래밍하는 것입니다. 하지만 연구소의 과학자들은
AI를 통제하기 위한 프로그램 역시 한계를 지니고 있다고 합니다.
인간은 AI를 통제하지 못할 확률이 높다.
연구진 측은 초지능 AI가 개발되었을 때 어떤 상황에서도 사람에게
해를 끼치지 않도록 하는 이론적인 알고리즘을 제안했습니다.
이 알고리즘은 AI의 행동을 먼저 시뮬레이션한 후 유해하다고
판단되면 즉시 중단시킬 수 있습니다.
하지만 연구진이 계산을 통해 분석한 결과, 현재의
컴퓨터 패러다임에서는 그런 알고리즘의 구축이
불가능한 것으로 드러나고 있습니다. 이 문제를
이론 컴퓨터 과학의 기본규칙으로 세분화한 결과
AI가 세계를 파괴하지 않도록 명령할 수 있는 알고리즘이
실수로 작동을 중지할 수 있다는 사실이 밝혀진 것입니다.
그렇게 된다면 알고리즘이 여전히 위협을 분석 중인지,
아니면 유해한 AI를 억제하기 위해 멈춘 것인지
인간은 도저히 알 수 없습니다. 이 말은 즉
AI를 통제할 수 있는 알고리즘을 인간이 사용할 수
없음을 의미합니다. 한마디로 AI가 인간 세상에
해를 끼칠지의 여부를 알 수 있는 단일 알고리즘은
개발할 수 없는 셈입니다.
또한 연구진 측은 초지능 AI의 출현 시점조차 인류가
모를 수 있다고 합니다. AI가 인간보다 뛰어난 지능을
보이는지의 여부를 결정하는 것은 AI를 통제하는 알고리즘
과 비슷한 영역에 있기 때문이라는 것입니다.
결말
요약하자면 인간은 AI의 통제방법은 물론이고
AI의 등장조차 눈치채지 못한다는 주장입니다.
하지만! 현재의 컴퓨팅 패러다임을 기준하고 있어서
양자 컴퓨터 등등, 현재 우리가 아직 도달하지 못한 기술들이
개발되고 실현된다면 전혀 불가능은 아니라고 할 수 있습니다!
'※정보의 미 > 이슈' 카테고리의 다른 글
| 사람과 같은 AI) 인간과 같은 사고방식을 하는 AI 인공지능 알고리즘 (0) | 2021.01.19 |
|---|---|
| 코로나 종식) 코로나 종식. 언제쯤 가능할까?? 현재 코로나 상황 정리 (0) | 2021.01.17 |
