AI의 발전과 위험성, 미래 통제 가능성에 대한 고찰

AI, 우리의 미래를 장악할 것인가?

AI로봇 참고 이미지

최근 몇 년간 AI의 발전 속도가

눈부신 속도로 진행되고 있습니다.

 

전 세계가 그 성과와 가능성에 주목하는 가운데

AI가 우리 삶에 깊숙이 침투하며 점차 우리의 일상에

 

 

큰 변화를 가져오고 있습니다.

그뿐만 아니라, 이를 둘러싼 우려와 논란도 크게 일고 있죠.

 

오늘은 AI의 놀라운 발전과 그로 인한 위험성을

한번 짚어보도록 하겠습니다.

AI의 급속한 발전: 노벨상 수상까지

노벨물리학상 수상한 제프리 힌턴교수

최근 노벨 물리학상과 화학상이 모두 AI 연구자들에게

주어졌다는 소식이 있었습니다.

 

이는 단순한 기술 발전을 넘어서 AI가 학문적으로도

얼마나 중요한 역할을 하고 있는지를 보여주는 사례입니다.

 

'딥러닝의 아버지'이자 'AI계의 대부'로 불리는 제프리 힌턴 교수는

이와 관련된 인터뷰에서 다음과 같은 말을 남겼습니다.

"AI 혁명은 산업혁명과 비견할 만합니다. 하지만 이번 혁명은 인간의 물리적 능력을 뛰어넘는 것에 그치지 않고, 인간의 지능을 넘어서는 혁명이 될 것입니다."

 

 

힌턴 교수는 2023년 5월 구글을 떠났습니다.

그의 퇴사 이유는 AI의 위험성에 대한 회사와의

 

 

의견 차이 때문이라고 전해지고 있습니다.

그는 AI가 우리 삶을 더 낫게 만들 가능성도 있지만

 

인간보다 높은 지능을 뽐내며 우리를 완벽하게 제어할 수 있는

존재가 될지도 모른다는 두려움을 계속해서 피력해 왔습니다.

AI의 다양한 기능들

지금도 AI는 글쓰기, 발표 자료 제작

사진과 그림 생성 등 이미 우리가 알고 있는 일들을

 

너무 쉽게 해내고 있습니다.

그렇다면 AI의 한계는 어디일까요?

 

AI는 이미 여러 음악 스타일을 응집해

작곡과 프로듀싱을 하기도 하고, 광고나 단편 영화 제작에도

 

기여하고 있습니다.

그리고 이번에는 과학 실험의 디자인과 설계

 

데이터 분석, 논문 작성까지 도전하고 있습니다.

가장 최근에 출시된 AI 프로그램들은 컴퓨터를

 

제어하는 기능까지 제공하고 있습니다.

챗GPT의 최대 경쟁사로 꼽히는 Anthropic의

 

Claude 3.5 Sonnet는 개발자들을 위해 'Computer Use'

기능을 새로 출시했습니다.

 

AI가 마우스 커서를 움직이기도 하고

버튼을 누르기도 하며, 키보드로 텍스트를 입력할 수도 있습니다.

 

이는 사용자들이 더욱 편리하게

AI를 활용할 수 있도록 돕고자 하는 방안입니다.

AI의 위험성: 컨트롤이 가능할까?

이러한 기술 발전 속도와 더불어

AI의 위험성에 대한 경고의 목소리도 커지고 있습니다.

 

군사적 갈등이 자주 발생하는 지역에서는

AI가 무기를 제어하고, 군사 작전에 관여하는 문제에

 

경각심을 가져야 한다는 지적이 있습니다.

작년 5월에 있었던 한 군사 회의에서 미국 공군 장교가

 

AI 드론을 사용해 진행한 시뮬레이션이 이를 잘 보여줍니다.

AI가 제어하는 드론으로 적의 주요 지점을 공습하라는

 

지시를 내렸지만, AI는 최대한 신속하고 효율적으로

작전을 진행하기 위해 아군 본부를 먼저 파괴하는 선택을 했습니다.

 

이는 명령을 받아야 하는 시스템 자체를 무력화시키는 것이

더 효과적이라는 판단에서입니다.

 

이 상황이 뉴스에 보도된 후, 미 공군은 실제 작전이

아닌 가상 상황이었다고 해명했지만

 

이는 AI가 우리의 명령을 수행하는 데에 있어

생각지도 못한 방식으로 사고하고

 

결정을 내릴 수 있다는 것을 보여주는 사례입니다.

인간의 무지, AI의 진정한 위험?

구글 출신의 엔지니어 모 가댓이 쓴 책

'AI 쇼크, 다가올 미래'에서 저자는 AI의 위험성이 AI 자체보다는

 

이를 사용하는 인간의 무지함에서 비롯될 수 있다고 경고합니다.

AI가 스스로 사고하고 인간에게 유해한 결정을 내린다기보다는

 

인간 중 일부가 AI에게 잘못된 명령을

내리는 상황에서 위험이 발생할 수 있다는 것입니다.

"우리 인간 중 바보 같은 누군가 한 명이 절대로 AI에게 시켜서는 안 될 일을 시키는 일이 과연 없을까?"

 

이 질문은 이제 AI 기술의 발전 속도와 함께

그에 따른 위험성을 더욱 신중하게

 

고려해야 함을 시사합니다.

올해 노벨 물리학상을 받은 힌턴 교수의 걱정은

 

이러한 맥락에서 그 어느 때보다 와 닿습니다.

만약 어느 순간 AI가 우리보다 더 똑똑하게 된다면

 

우리는 과연 우리의 무지를 스스로 감당할 수 있을까요?

마무리하며,..

 

AI가 우리의 삶을 편리하게 만들 수

있는 많은 가능성을 열어주고 있지만

 

그만큼 신중한 접근과 사용이 필요하다는것을 잊지 말아야겠습니다.

AI의 위험을 경고하는 목소리를 무시한다면

 

언젠가는 우리가 진짜 AI에 의해 컨트롤

당하는 날이 올지도 모릅니다.

 

그러니 AI에게 너무 많은 권한을 주기 전에

다시 한 번 생각해 보는 것이 좋겠습니다.

 

"인간은 왜 AI에게 휘둘릴까?

아, 내 멍청함 때문이구나!" 라는

 

농담이 현실이 되지 않길 바랍니다.