충격적인 연구에서는 AI가 인류 문명을 말살하는 '거대한 필터'일 수 있다고 경고합니다.

첨단 AI는 인간이 결국 지구를 공유하는 '두 번째 지능 종'으로 행동할 수 있다

내 프로필 아래의 Independent Premium 섹션에서 북마크를 찾으세요.

관련 영상: 그는 AI 생성을 도왔습니다. 이제 그는 그것이 인류를 파괴할 것이라고 걱정한다

첨단 인공지능(AI)이 인류에게 치명적인 위험을 초래하고 문명 전체를 멸망시킬 수 있다는 새로운 연구 결과가 나왔다.

arXiv에 게시된 아직 동료 검토가 진행되지 않은 연구에서는 AI가 페르미 역설에 대한 잠재적인 "대필터" 답변이 될 수 있으며 우주의 지적 생명체가 다른 생명체와 접촉하기 전에 멸종시킬 가능성이 있다고 제안했습니다. 사전 인쇄 서버.

"모두 어디에 있습니까?"라는 문구로 널리 알려진 페르미 역설은 수십 년 동안 과학자들을 당황하게 했습니다. 우주에 외계 생명체가 존재할 가능성이 있다면 왜 인간은 아직 외계 생명체를 만나지 않았을까 하는 불안한 생각을 가리킨다.

지금까지 우주에서 우리의 고독한 존재에 대해 다른 설명을 제공하는 많은 이론이 제안되었습니다.

인기 있는 드레이크 방정식과 같은 확률 계산에 따르면 은하계에는 수많은 지능 문명이 있을 수 있다고 암시되지만 여전히 수수께끼 같은 우주적 침묵이 존재합니다.

대필터(Great Filter)로 알려진 대중적인 가설 중 하나는 지적 생명체의 출현에 필요한 일부 사건이 극히 가능성이 낮기 때문에 우주가 침묵한다는 것을 시사합니다.

이 이론과 논리적으로 동등한 것은 일부 재앙적인 우주 현상이 우주 전체에 걸쳐 생명의 확장을 방해할 가능성이 높다는 것입니다.

연구 저자인 미국 국립정보대학교(NIU) 마크 베일리(Mark Bailey)는 "이것은 자연적으로 발생한 사건일 수도 있고, 더 당황스럽게도 지적 존재가 스스로 멸종으로 이어지는 일일 수도 있다"고 말했습니다.

새로운 연구에서는 AI의 발전이 잠재적으로 문명 전체를 멸절시킬 수 있는 재앙적인 위험 사건일 수 있다는 이론을 세웠습니다.

이 연구에서 Bailey 박사는 우리가 완전히 이해하지 못하는 AI와 같은 기술의 잠재적인 장기적 위험 내에서 Great Filter의 맥락을 구성합니다.

NIU 과학자는 "인간은 장기적인 위험을 직관적으로 예측하는 데 형편없다"고 말하며 AI를 완전히 이해하지는 못하지만 "AI는 빠르게 우리 삶에 침투하고 있다"고 덧붙였습니다.

그는 "미래 AI는 보다 의미 있는 제어 기능을 갖춘 일반화 가능하고 목표 지향적인 시스템을 지향할 것이며 의도하지 않은 결과의 결과는 훨씬 더 심각해질 것"이라고 경고했습니다.

Bailey 박사는 자신이 "두 번째 종 주장"이라고 부르는 것을 상정했는데, 이는 진보된 AI가 우리가 결국 이 지구를 공유하게 될 "두 번째 지능 종"으로 효과적으로 행동할 수 있는 가능성을 제기합니다.

현생인류와 네안데르탈인이 지구에 공존했을 때 어떤 일이 일어났는지를 고려할 때 NIU 연구자들은 "잠재적인 결과는 암울하다"고 말했습니다.

Bailey 박사는 연구에서 "통제 불가능한 기술, 특히 AI와 같이 목표 지향적인 기술이 Great Filter의 좋은 후보가 될 것이라는 점은 합리적입니다."라고 썼습니다.

"우리는 스스로에게 질문해야 합니다. 이러한 가능성에 어떻게 대비해야 할까요?"

생각을 자극하는 대화에 참여하고, 다른 독립 독자를 팔로우하고 답변을 확인하세요.

DeepMind 창립자 Demis Hassabis는 인간 수준의 인공 일반 지능이 불과 몇 년 남았다고 주장합니다.

iStock/ 게티 이미지

나중에 읽거나 참고할 수 있도록 좋아하는 기사와 이야기를 북마크에 추가하고 싶으십니까? 지금 독립 프리미엄 구독을 시작하세요.