글/ 명일(明一)
[명혜망] AI 연구와 제품은 최근 몇 년간 급격한 발전을 이루었다. 그 결과, AI는 이전처럼 인류의 일상에 은밀히 관여하거나 제한적으로 사용되던 단계에서 벗어나, 단숨에 사회 전반에 걸친 핵심적인 역할을 맡게 됐다. 이러한 변화는 인터넷이 인류의 일상생활과 업무에 가져온 변화에 버금가거나 그 이상이다. 그렇다면 AI의 광범위한 사용은 결국 AI가 인류를 통제하는 결과를 초래할 것인가?
필자는 그럴 것이라고 본다. 왜냐하면 잃지 않고서는 얻을 수 없기에, AI가 인류에게 주는 편리함과 만족감에는 대가가 따르기 때문이다. 일시적이고 부분적이며 단기적이고 표면적인 편리함과 만족은, 빠르든 늦든 결국 인류가 많은 능력을 상실하게 만들어 최종적으로 참혹한 대가를 치르게 할 것이다.
1. 과학과 과학 제품에 대한 과도한 의존은 이미 인류에게 막대한 대가를 치르게 했다
AI를 자세히 살펴보기 전에 다른 과학 분야의 사례를 먼저 살펴보자.
지난 100년 동안 과학의 비약적인 발전으로 인해 과학은 많은 이들의 신앙이 됐고, 이는 인간 마음속에서 신의 자리를 대체하며 도덕적 타락을 초래했다. 그 결과는 충격적이다. 예를 들어 서양 의약품의 연구 개발과 압도적인 광범위한 사용은 일부 이익 집단이 한 나라 국민의 건강(심지어 생명)을 해치는 것도 마다하지 않고 돈벌이 수단으로 삼게 했다. 광고와 같은 대중 세뇌와 서양 의약품 부작용 연구 정보의 차단으로 인해, 여전히 많은 사람들은 서양 의약품에 대한 맹목적인 신뢰를 버리지 못하고 있다.
그중에서 아편은 진정제와 지사제에서 마약 중독자를 만드는 치명적인 무기로 변질되어, 중국을 부강한 천국에서 도탄에 빠진 미개한 땅으로 전락시켰다.
또한 60년대에 개발된 펜타닐은 한때 서양 의학의 전신 마취제의 신성(新星)으로서 인류에게 희망과 위안을 가져다주었다. 그러나 90년대 중반에 이르러 펜타닐은 패치, 막대사탕, 용해정제, 설하 스프레이 등의 형태로 인류의 일상생활에 더욱 광범위하게 들어와 전 세계적으로 사용량이 급증했다. 그 후 펜타닐이 ‘오락성 약물’로 사용되면서 2000년부터 2017년까지 수천 건의 약물 과다 복용 사망 사례가 발생했다. 미국 질병통제예방센터는 2016년 한 해에만 2만 명이 넘는 미국인이 펜타닐과 유사 구조 화합물의 남용으로 사망했다고 추산했다.
비록 미국 재무부가 마침내 2021년 12월 15일 펜타닐 등 약물 남용과 중독 문제 퇴치를 이유로 중국, 브라질, 콜롬비아, 멕시코 4개국의 15개 단체와 10명의 개인에 대해 제재를 가했지만, 60년대부터 지금까지 64년 동안 펜타닐로 인해 부자가 된 사람들은 얼마나 많은 돈을 벌었을까? 펜타닐 남용으로 사망한 전 세계 총 사망자 수는 또 얼마나 될까? 만약 이미 존재했지만 오랫동안 엄격히 봉쇄된 사실과 데이터를 파헤쳐 본다면, 인류는 약물이 인류의 욕망, 건강, 나아가 생명에 미치는 영향이 더 이상 통제할 수 없고 더 이상 이성적이지 않다는 것을 알게 될 것이다.
2. AI에 대한 과도한 의존은 인류에게 어떤 대가를 치르게 할 수 있나
AI라는 구체적인 영역으로 돌아가면, AI 연산을 하는 데이터베이스와 컴퓨터, 즉 ‘기계’는 주로 사용자와 분리된 공간에서 작동하며 소수의 그룹에 의해 통제되고 있다. 인류가 본래 스스로 배우고 노력해야 할 일을 기계에 위탁할 때, 게으름, 지름길 찾기, 편리함만 추구하는 등 인성의 약점은 필연적으로 인류가 점점 더 많은 일을 AI에 맡기게 하여 과도한 의존을 초래하고 독립적인 사고를 할 수 없게 만들 것이다. 사실 AI의 갑작스러운 대규모 부상이 불과 몇 년 전의 일처럼 보이지만, 연구자들은 이미 AI 중증 사용자의 사물에 대한 인지도가 낮고 의사결정 능력도 현저히 저하된다는 것을 발견했다. 그리고 AI에 대한 중증 의존도가 인류에게 도덕적 측면에서 초래할 손실은 현재 연구 결과가 없다.
다음은 사람들이 이미 본 AI에 대한 과도한 의존이 초래할 전망이다.
1) AI가 인간의 생존 공간을 압박하고 인류의 일자리를 빼앗는다
AI 자동 프로그램 코드 생성은 인간 프로그래머의 일자리를 압박한다.
AI 자동 문서 생성은 작가, 기자, 사무직원의 일자리를 빼앗는다.
AI는 인간의 데이터 입력과 관리 작업을 대체할 것이다.
AI는 인간의 고객 서비스 업무를 대체할 것이다.
AI는 인간의 제조 및 조립 라인 작업을 대체할 것이다.
AI는 인간의 소매점 계산 업무를 대체할 것이다.
AI는 인간의 번역 작업을 대체할 것이다.
AI는 인간의 상업용 사진촬영을 대체할 것이다.
2) AI는 결국 인류가 독립적으로 생각하고, 독립적으로 판단하고, 독립적으로 결정하는 능력을 상실하게 만들어 완전히 AI에 의존하게 만든다
인공지능의 매력은 방대한 데이터를 처리하고 인간의 능력을 초월하는 복잡한 작업을 수행할 수 있다는 데 있다. 처음에는 인공지능이 우리의 생산성을 높이고 각 분야에서 도움을 제공했다. 그러나 우리가 그것에 의존하기 시작하면서 우리는 우리 자신의 결정보다 인공지능의 결정을 더 신뢰하게 되어 수동적으로 그 결과를 받아들이게 될 수 있다. 이러한 의존은 점차 의존성이 되어 인공지능이 우리의 선택에 너무 큰 영향을 미쳐 우리는 독립적인 의사결정 능력을 상실하게 된다.
3) AI가 점차 인류 사회를 통제한다
인공지능은 무기화될 수 있다. 예를 들어 약물 연구 개발 도구는 화학무기 제조에 사용될 수 있고, 인공지능이 생성한 잘못된 정보는 사회 안정을 파괴하고 정부의 의사결정에 영향을 미칠 수 있다. 인공지능의 힘은 점점 더 소수의 사람들 손에 집중될 수 있어, 소수의 사람들이 보편적인 감시와 억압적인 검열을 통해 그들의 가치관을 강제로 추진하여 다수의 사람들의 재산, 생존 환경과 생활 습관, 심지어 생사까지 통제할 수 있게 된다.
동물은 본질적으로 수성(獸性)을 지니기에 인류처럼 도덕적 사고를 갖추지 못한 것처럼, 로봇의 본질은 냉혹하기에 전자 명령을 받아들일 뿐 진정한 인류의 영성과 신성을 갖추지 못했다. 현재 사회에서 절대다수의 인류는 이미 야수와 싸워 생존을 도모하는 체력과 기술을 상실했으며, 인간의 육신은 금속과 인공 재료로 만든 로봇 앞에서 완전히 무력하다고 할 수 있다.
다른 각도에서 말하면, AI가 인류가 각 분야에서 발표한 기존 성과 데이터베이스를 사용해 수많은 방식으로 재정리, 분해, 조합할 때, AI에 의존하는 인류는 하나하나의 ‘재활용장’이 된다. 대부분의 사람은 퇴화하여 더 이상 진정한 영감과 혁신이 없이, 단지 기존 정보에서 무수해 보이지만 실제로는 한정된 재활용 정보만을 파헤치려고 할 것이다. 이는 인류의 존엄성에 대한 극심한 박탈이다.
AI가 새로운 인류의 성과를 훈련 데이터로 사용할 때, AI에 의존하는 인류는 AI와 AI 통제자의 노예가 된다. 언제든지 AI에 훈련을 제공해 AI와 그 통제자를 강대하게 하고, 그들의 재산과 더 강력한 무기를 증가시키며, 절대다수의 사람들은 프라이버시가 없고 AI의 통제를 받지 않을 자유를 선택할 수 없게 된다.
여러분도 침착하게 생각해보시면 이러한 전망이 보일 것이다.
신의 거대한 존재는 사실이며, 인간이 신을 인정하느냐의 여부와 상관없이 변하지 않는다. 신께서는 인간에게 자비롭지만 과학은 그렇지 않기에 인류는 반드시 자신과 과학의 관계를 바로잡아야 하며, 그렇지 않으면 심각한 결과를 초래하게 되는데 후회해도 소용없다. 과학이 냉혹무정하고 과학이 사람을 냉혹무정하게 만든다는 것은 결코 과장된 말이 아니다. 과학과 과학 제품은 단순히 인류의 도구일 뿐이다. 이 도구들이 인류의 통제를 벗어나거나 악의를 가진 사람들의 손에 들어가면, 그것이 인류에 대한 애정이 있다 해도 결국 인류를 해치게 될 것이다.
칼은 일상생활용품이면서 동시에 자살과 살인에도 사용될 수 있다. 총은 사냥, 오락, 자기보호에 사용될 수 있지만 동시에 자살과 살인에도 사용될 수 있다. 약물은 생명을 구하고 병을 치료할 수도 있지만 사람을 해치고 죽일 수도 있다. 그렇다면 AI는 어떨까? 그것들이 영원히 단지 사람을 위해 청소하고, 번거로운 잡무를 하고 ‘머리를 덜 쓰게’ 할 뿐일까? 절대 그렇지 않을 것이다. 그것들은 이미 젊은이들과 같은 AI 중독자들의 지능과 상상력, 창조력을 앗아가고 있다. 마치 아편이 한때 번영하던 중국을 도탄에 빠뜨린 것처럼 말이다.
특수 재료로 만든 로봇과 피와 살로 이뤄진 인류가 직접 대결한다면 누가 쉽게 승리할 수 있을까?
원문발표: 2024년 12월 2일
문장분류: 천인(天人)사이
원문위치:
正體 https://big5.minghui.org/mh/articles/2024/12/2/485582.html
简体 https://www.minghui.org/mh/articles/2024/12/2/485582.html