ChatGPT (챗GPT) 는 어떻게 작동이 될까? 위험한 문제점은? 제발 알면서 바보가 되자

현재 대세인 ChatGPT (챗GPT)는 너도나도 다 사용을 하고 각 기업마다 막대한 투자를 하고 있는 상황인데요, 이 챗봇이 어떻게 자료를 모아서 사용하는 유저에게 정보를 전달하는 걸까요?  그리고 그 정보가 무작정 100% 맞는 것일까요? 
 
이 기능을 사용하여하는 일을 좀 더 쉽고 효율적으로 이끌어 가는 것은 좋은 현상이지만 막무가내 보이는 정보가 다 맞다고 팩트 체크를 안 한다면 AI 가 인간이 할 수 있는 직업을 다 뺏어가기 전에 먼저 내쳐질 것입니다. 
 
우선 어떤 체제인지 지금의 문제점은 무엇인지 제대로 알고 사용하는 것이 제일 효과적으로 이용하는 방법입니다.  속된 말로 AI 로인해 아무것도 모르는 바보가 되지 말고 아는 바보가 되어 봅시다.  

바보라는 이유는 다들 아실 겁니다.  GPS가 나와서 맵이 나오기 전에는 어땠습니까? 길을 찾는데 기억을 쓰고 지도를 읽고 하면서 머리를 썼죠.  지금은 어때요? 네이버나 카카오 맵이 다운되면 사람들은 둘째치고 전 나라가 패닉 상태이지 않을까요? 인간이 편해지자는 기술에 완전 의존하게 되면 자연히 인간은 하나하나 자신의 기능을 잃게 됩니다.
 

반응형

---

어떻게 AI가 만들어지고 작동이 될까?

모든 AI를 기반으로 하는 테크놀로지는 간단하게 정리하자면 자료 모음 (습득용과 테스트용으로 자료 나누기) > 습득 > 테스트 > 결과를 이용 다시 습득의 루프를 돕니다.  Machine Learning (머신 러닝)이라고 하죠.  이 단계를 거쳐서 하나의 모델이 만들어집니다.  습득 자료는 어떤 AI를 만드느냐에 따라서 이미지, 소리, 글 등등 달라질 수 있죠.
 
간단하게 말하면 이 모델은 인간의 뇌이죠.  기계는 이진수 (binary) 로만 계산을 할 수 있으므로 모든 로직은 숫자를 이용한 복잡한 수학이 들어갑니다.  벡터 (vector) 수학이나 미적분학, 다변량 분석 및 통계 (multi-variate statistical analysis) 이런 부분들이 아주 많죠.  
 
AI는 습득하는 자료가 관건입니다.  그럼 이러한 자료들은 어떻게 구해질까요?  자료는 인터넷에 다 뿌려져 있습니다.  긁어 오는 것이죠.  구글, 마이크로소프트, 네이버, 다음, 이런 검색엔진이 왜 무료일까요?  당연히 우리가 돈을 지불하고 있습니다 (정보를 주고 있으므로).  

블로그 글, 백과사전, 온라인 몰, 쇼핑한 내역 등등 다 인터넷에 기록이 되고 검색이 되면 그들의 자산이 되는 거죠.  그 정보를 이용하여 AI를 개발하는 것입니다.  여러 가지 다양한 AI 봇을 만들 수 있는 것이죠.  어디선가 내가 인터넷에서 찾아본 제품이 광고로 뜨는 걸 경험해보셨을 거예요.  그게 우리가 "지불"한 정보입니다.  이제는 정보가 돈입니다.
 
챗GPT도 당연히 이런 자료를 통해 습득을 하여 배운 것을 정리하고 통계로써 묻는 질문에 답을 정리하여 보여주는 형식이고요.  챗GPT의 자료는 2021년까지의 인터넷 자료를 기반으로 하고 있습니다.  글을 습득하여 나온 AI이라서 목적은 글로써 질문을 하면 답으로 작문을 도와주거나 정보를 알려주는 것이죠.  글이라서 질문 대답 형식인 셈이라 대화까지 가능하게 됩니다.
 
그럼므로 지금 만들어지고 있는 챗봇들은 다 우리가 돈을 지불하고 "그들"이 만드는 것이죠.  인터넷이 처음으로 나왔을 때 같이 지금 AI 기술은 그 시대를 맞았습니다, 우리의 정보를 이용하여.
 

728x90

---

지금의 위험성과 문제점은?

그럼 아주 조심해야 하는 문제점은 무엇일까요?  몇 번 사용하고 난 많은 유저들은 와! 대박 이러 면서 이 기능을 100퍼센트 신같이 믿고 사용을 하죠.  편리한 것은 확실하게 맞습니다.  그런데 100퍼센트 정확할까요? 
 
검색엔진에서 검색을 해보면 틀린 정보들이 얼마나 많이 있습니까?  그런데 그런 자료들 까지 이용하여 기계가 습득을 하고 나면 알려주는 정보는 얼마나 신용이 갈까요?  그리고 정치 쪽으로 사람들의 생각을 바꾸려는 회사나 정치가, 권력가 들은 인터넷에 엄청난 양의 정보를 뿌려서 챗봇에 습득을 시키면 챗봇은 우리에게 어떠한 정보를 줄까요?
 
검색을 잘하는 분들은 항상 팩트 체크를 합니다.  내가 본 정보가 맞는지, 같은 정보가 얼마나 많이 나와 있는지 온라인과 오프라인 여러모로 체크를 하면서 결과를 정리하죠.  지금 챗봇을 절대적 신으로 믿으면서 이런 팩트 체크 없이 챗봇이 알려준 게 다라고 믿는 분들이 정치계, 기업계에서 일을 하게 되면 세상이 어떻게 바뀔까요?  AI 가 습득하고 보여주는 자료에 의해서 세상이 돌아갈 것입니다.  AI로 만들어진 게으른 바보들이 세상을 이끌어 나가게 될 것입니다.
 
그리고 그 수많은 자료들을 틀린 지 맞는지 누가 어떻게 효율적으로 머신이 습득하기 전에 걸러내죠?  너도 나도 대기업이 투자하는데 그런 것에 신경을 쓸까요?  지금은 신 챗봇 출시가 한시라도 늦어지면 뒤처진다는 마음일 텐데요.

만약에 틀린 정보를 걸러 낸다고 하더라도 그 로직이 무엇인지 누가 그걸 만든 사람은 누군지 모르죠?  그 로직이 모든 정보를 보고 틀리다 맞다는 것을 구분한다는 게 가능할까요?

---

지금은 AI 봇의 춘추 전국시대입니다.  새로운 기술이라고 너무 믿고 그것이 전부라고 생각하는 마음을 가지지 않았으면 합니다.  AI 가 미래는 맞습니다, 그렇지만 지금의 기술은 아직 시기상조인 것 같습니다.  지금 막연히 믿고 따르기에는 너무 위험한 기술이죠.   영향력과 재력 있는 그룹의 무기로도 쓰일 수 있는 위험한 기술입니다.

주변에 말만 믿을만하게 번지르르 잘하고 그게 정말 맞는지는 모르나 맞을 것 같다는 사람들이 있죠 (말이 너무 유창해서)? 종종 구속도 되어 뉴스에도 나오고요... 이 기술이 그런 쪽으로 흘러가지 않았으면 하네요. ^^;
 
컴퓨터 테크계에서 나온 AI (Artificial Intelligence)라는 기술에 맞서 바이오테크 생물과학계에서는 OI (Organoid Intelligence)라는 기술이 바짝 따라오고 있습니다.  기계보다 장기 유사체를 이용한 신기술도 조금 있으면 AI와 대결을 하게 됩니다 (다음에는 OI에 대해서 좀 더 알려 드리겠습니다).  OI는 AI 킬러라고 합니다.  게다가 지금의 슈퍼 컴퓨터가 맥도 못 추는 퀀텀 (양자) 컴퓨터 (Quantum Computer)를 이용한 AI 기술도 진전이 되고 있습니다.  그래서 지금의 AI 기술이 언제 다른 방향으로 향할지는 그 누구도 모릅니다.

앞에서도 GPS의 예로 말씀드렸지만 편하게 답을 제시해 주고 글을 써주는 이 기술에 의존하다 보면 인간에게 아주 중요한 능력 두 가지를 잃게 됩니다.

첫째, 문제 해결 능력이죠 (problem-solving skill). 여기저기 답을 찾아보고 리서치를 함으로써 여러 가지의 방안을 찾고 고민하게 되는데, 이러한 과정을 통해 문제 해결의 능력이 키워집니다.  한 가지가 아닌 여러 가지 방면으로 생각할 수 있는 아주 막강한 능력이 생기는 것이죠. 챗 GPT에 의존을 한다면 이런 능력이 키워 지기가 힘들겠죠.  챗 GPT 뿐만 아니라 다른 방법으로도 답을 찾는 능력을 길러야 한다는 것입니다.

둘째, 창의력 (creativity)과 사고력입니다.  보이는 답으로 먼저 글을 작성하고 아니면 작성된 글로만 집필을 하게 된다면 그 글은 누구의 글일까요?  누가 써준 글을 조금 바꾼다거나 하는 것은 창의력이나 서고력에 발전적인 도움을 주기가 어렵다고 생각합니다.
 
그래서 지금이 기술이 어떻게 작동이 되고 정보를 주는지 제대로 알면서 위험한 문제점이 무엇인지 인지를 함과 동시에 자신과 인류에게 이득을 주고 효율적으로 이용을 했으면 하는 바람에 이 글을 올려 봅니다.

---

도움이 되셨거나 즐거우셨다면 아래의 ❤️공감버튼이나 구독버튼을 눌러 주세요~  감사합니다

 

---

참조 문서 (Reference):

usatoday.com