비탈릭 부테린, 새로운 에이펙스 종에 대한 경고

에서최근 블로그 게시물 에서 이더리움의 공동 창립자 바탈릭 부테린은 AI의 고유한 특성을 강조하며 인간의 이익에 반하는 새로운 유형의 마음을 만들 수 있는 잠재력에 대한 우려를 표명했습니다.

이전 발명품과 달리 AI의 빠른 지능 성장은 인간의 정신 능력을 추월할 수 있는 심각한 위험을 내포하고 있어 부테린은 신중한 개입의 필요성을 강조했습니다.

부테린은 블로그 게시물에서 초고도 인공지능(AI)이 잠재적으로 인간을 능가할 수 있다고 경고했습니다:

하지만 인공지능이 무엇인지에 대해 다른 방식으로 생각할 수 있습니다. 인공지능은 지능이 빠르게 향상되고 있는 새로운 유형의 정신이며, 인간의 정신 능력을 추월하고 지구상의 새로운 정점 종이 될 가능성이 높습니다."라고 말합니다;

빠른 AI 성장으로 인한 위험 증가

부테린은 초지능 AI가 초래할 실존적 위협에 주목하며, 이를 방치할 경우 인류가 멸종할 수 있다고 경고했습니다.

그의 블로그 게시물에 적힌 대로:

최악의 시나리오인 기후 변화나 인위적인 팬데믹, 핵전쟁이 초래할 수 있는 피해만큼이나 많은 문명의 섬이 온전하게 남아있어 피해를 복구할 수 있다는 극단적인 주장입니다. 하지만 초지능 AI가 인간에게 등을 돌린다면 생존자를 남기지 않고 인류를 영원히 종식시킬 수도 있습니다. 화성도 안전하지 않을 수 있습니다;

He인공지능이 인류에게 해를 끼칠 확률이 5~10%에 불과하다는 머신러닝 연구자들의 설문조사를 인용했습니다. .

이러한 주장의 극단적인 성격에도 불구하고 부테린은 강력한 인공지능을 인간이 통제할 수 있는 잠재적인 해결책을 제시했습니다.

두뇌-컴퓨터 인터페이스(BCI)

사진 출처: https://vitalik.eth.limo/general/2023/11/27/techno_optimism.html

이러한 위험을 해결하기 위해 부테린은 뇌-컴퓨터 인터페이스(BCI)의 통합을 주장했습니다.

이러한 인터페이스는 뇌와 외부 장치 간에 직접적인 통신 경로를 구축하여 인간이 AI 기반 계산 및 인지를 더 잘 제어할 수 있도록 합니다.

부테린은 인간과 기계 사이의 커뮤니케이션 루프를 줄임으로써 BCI가 전 세계에 걸쳐 의미 있는 에이전시를 유지하여 AI가 독립적으로 행동하는 것을 방지할 수 있다고 주장했습니다.

이더리움의 공동 창립자는 의사 결정 과정에서 인간의 참여가 중요하다고 강조하며, 인공지능이 인류의 가치에 반하는 행동을 할 가능성을 줄이기 위해 노력했습니다.

그는 이윤 극대화를 넘어선 가치에 따라 인간의 능동적인 의도가 AI 개발을 인류에게 도움이 되는 방향으로 이끌 수 있다고 제안했습니다.

AI 과제 탐색하기

부테린은 AI 진화에 따른 도전 과제를 해결할 수 있는 인류의 능력에 대한 자신감을 표명했습니다.

그는 인간의 혁신과 기술의 중요성을 강조하며 우주 여행과 지구 공학 등 인간의 인공물이 앞으로 수천 년 동안 지구의 삶을 아름답게 가꾸는 데 기여하는 미래를 상상했습니다.