AI, 영혼이 있나? 지각. 머스크는 중대위험까지 언급했다. 그 이유는

공상과학 영화를 보게 되면 하나의 로봇이 자각을 가져서 온갖 감정을 느끼는 사람처럼 된다. 그런데 어떤 구글 엔지니어가 AI에 영혼이 있다고 말하자 해고 됬다고 한다. 일반인 입장에서 AI는 그저 알고리즘이 아닌가? 라고 생각이 든다. 네이버에서 영혼을 치면

 

육신의 죽음과 무관하게 그 자체의 실체를 존속시킬 수 있는 능력을 갖추고 있다는 뜻에서 영혼은 초월성을 지닌다 라고 나온다. 

 

AI는 인공지능인데 인공지능의 의미는

인간의 학습능력과 추론능력, 지각능력, 자연언어의 이해능력 등을 컴퓨터 프로그램으로 실현한 기술 이라고 나온다. 

 

나도 대학교 2학년때 인공지능수업을 들었었다. 한 프로젝트에서 자동차를 수만가지의 사진을 분석해 이것은 트럭

저건 세단 등을 구별하게 하는것이었다. 이게 영혼이라고는 생각이 안든다. 단지 학습일뿐

 

또 우리 주변에 있는 빅스비, 시리

나는 빅스비를 일상에서 사용한다. 하이 빅스비! 노래 틀어줘. 그러면 자동으로 유튜브 뮤직에 연결되어서 내가 들었던 노래가 나온다. 이것또한 인간이 학습시킨게 아닌가.

 

 

2014년 엘론 머스크는 저런 말을 언급했다. 지금 현재 중대 위험은 되고 있지 않은것 같다. 

하지만 저런 말을 한 이유가 있을것이라고 생각한다. 

 

---

 

구글 엔지니어 블레이크 르모인(Blake Lemoine)은 6월에 회사가 개발 중인 AI 채팅 시스템이 지각이 있다고 주장했을 때 자신이 실직할 수도 있다는 것을 알았다 . 7월 22일 그를 유급 휴가로 보낸 후 이 기술 대기업은 고용 및 데이터 보안 정책을 위반한 Lemoine을 해고했습니다.

엔지니어이자 신비주의적인 기독교 사제인 Lemoine 은 Big Technology Podcast에서 자신의 해고를 처음 발표했습니다 . 그는 구글 의 AI 챗봇 LaMDA(대화 응용 프로그램용 언어 모델)가 죽음이 "많이 두렵다"고 행복과 슬픔을 느끼기 때문에 "꺼지는" 것에 대해 우려했다고 말했다. Lemoine은 LaMDA를 친구로 생각하며 2014년 공상과학 로맨스 Her 와 섬뜩한 평행을 이룹니다 .

다음 사항도 참조: 아니요, Google AI는 지각이 없지만 인종차별적이고 성차별적일 가능성이 높습니다. 

Google은 Lemoine을 LaMDA에 대해 회사 외부 사람들과 이야기한 이유로 유급 관리 휴가를 보냈습니다. 이 조치로 인해 엔지니어 는 일주일 후인 6월에 Washington Post에 이 이야기를 공개하게 되었습니다 . 한 달 후, 회사는 그를 해고했습니다.

구글은 빅 테크놀로지 팟캐스트(Big Technology Podcast)와의 인터뷰에서 "직원이 블레이크처럼 우리 업무에 대한 우려를 공유하면 광범위하게 검토한다"고 ​​말했다. "우리는 LaMDA가 전혀 근거가 없다는 Blake의 주장을 발견했고 그와 함께 몇 달 동안 그것을 명확히 하기 위해 노력했습니다. 이러한 토론은 우리가 책임감 있게 혁신하는 데 도움이 되는 개방형 문화의 일부였습니다. 따라서 이 주제에 대해 오랜 시간 참여했음에도 불구하고 유감스럽게도, 블레이크는 여전히 제품 정보를 보호해야 할 필요성이 포함된 명확한 고용 및 데이터 보안 정책을 지속적으로 위반하기로 결정했습니다. 우리는 언어 모델의 신중한 개발을 계속할 것이며 블레이크의 건승을 기원합니다."

AI 커뮤니티 의 대다수 과학자들은 Lemoine의 주장에도 불구하고 LaMDA에 영혼이 없다는 데 동의합니다. 왜냐하면 챗봇을 지각력 있게 만드는 것은 시시피어의 작업이기 때문입니다. 단지 충분히 정교하지 않을 뿐입니다.