ChatGPT를 믿을 수 있나요? 미래인가, 아니면 단지 좋은 속임수인가?

여기에 머물까요, 아니면 또 다른 속임수일까요? 우리는 새로운 파괴적인 기술이 나타날 때마다 이 질문에 대한 다양한 변형을 묻습니다. 그리고 ChatGPT가 탄생하면서 이 논쟁은 그 어느 때보다 더욱 격렬해졌습니다.

OpenAI의 챗봇인 ChatGPT는 2022년 11월 무료 연구 프로토타입으로 출시된 이후 전 세계적으로 100만 명이 넘는 사람들이 사용하는 등 압도적인 반응을 얻었습니다.

딥 러닝을 사용하여 이해하기 쉬운 텍스트를 생성하는 고급 최첨단 언어 모델인 GPT-3을 기반으로 합니다.

ChatGPT는 대화식으로 상호 작용하며 복잡하고 이론화하기 어려운 개념을 간단한 용어로 설명할 수 있습니다.

사용자들은 프로그램에 쿼리를 쏟아부었고, 일부는 숙제에 대한 도움을 받기 위해 이를 사용했고, 다른 일부는 체중 감량 계획을 관리하고, 코드를 작성했으며, 심지어 마크 트웨인과 같은 사람을 사칭하는 챗봇과 대화를 나누기도 했습니다.

하지만 ChatGPT를 신뢰할 수 있을까요? 아니면 몇 달 또는 몇 년 안에 무너질 또 다른 속임수일까요? 사람들이 이 AI 프로그램에 대해 어떻게 생각하는지 분석해 보겠습니다.

혁신적인 기술?

ChatGPT의 출시는 생성 AI 및 기술 전반의 전환점으로 환영받고 있습니다. Forrester Research AI/ML 분석가 Rowan Curran 이 혁신을 비교 금세기에 출시된 또 다른 가장 혁신적인 기술입니다.

"내가 비교할 수 있었던 유일한 것은 iPhone의 출시였습니다." 최초의 아이폰은 비록 최초의 스마트폰은 아니었지만 성공적으로 경쟁을 없애고 완전히 새로운 시장 독점을 확립했습니다. 이전에는 볼 수 없었던 기술적 변화를 가져왔습니다.

마찬가지로 ChatGPT는 모든 것을 할 수 있습니다. 복잡한 질문에 간단하고 간결한 답변을 제공할 뿐만 아니라 텍스트를 다른 언어로 번역하는 데에도 사용할 수 있습니다. ChatGPT에는 다양한 언어로 된 3천억 개가 넘는 단어가 제공되었습니다.

콘텐츠 제작자는 이 프로그램을 사용하여 동영상에 대한 새로운 아이디어를 생성하고 있습니다. 다양한 프로그래밍 언어로 간단한 코드를 작성할 수도 있습니다.

다양한 산업 분야에서 ChatGPT를 사용할 수 있는 가능성은 상상할 수 없을 정도로 많습니다. 고객 서비스 개선, 맞춤형 쇼핑 경험 창출, 의료 지원 제공 등은 이 AI 프로그램의 기능 중 일부에 불과합니다.

ChatGPT를 사용하면 복잡한 작업을 수행하는 데 엄청난 속도 증가가 관찰됩니다.

이전에는 여러 명의 프로그래머가 필요했던 작업을 AI를 사용하여 단 한 명의 훌륭한 프로그래머가 수행할 수 있으며, 머지않아 프로그래밍 방법을 모르는 사람도 ChatGPT의 도움으로 코드를 작성할 수 있게 될 것입니다.

식사할 식료품 목록 작성과 같은 일상적인 작업부터 쉬운 말로 폭탄을 해제하는 방법을 배우는 것까지 ChatGPT는 모든 것에 대한 최고의 가이드 역할을 할 수 있습니다.

아니면 소형 핵폭탄?

그러나 모두가 그것에 만족하는 것은 아닙니다.

벤처 투자가이자 오랜 인터넷 분석가인 폴 케드로스키(Paul Kedrosky)는 이를 '소형 핵폭탄'이라고 부르며 "우리가 딥 페이크에 대한 규칙을 갖고 있거나 디자이너 약물 및 의약품에 대한 규칙을 가지고 있는 것과 마찬가지로 이것이 금지되어야 한다는 것은 명백하다"고 말했습니다. 천연두 DNA를 기반으로 한 합성 바이러스 생산."

인간과 기계의 저작자 사이의 경계가 하룻밤 사이에 흐려졌습니다. 교육자들은 또한 이 프로그램에 대해 우려를 표명했으며 해당 콘텐츠가 ChatGPT에서 진짜인지 표절 인지 판단하는 데 도움이 필요한지 여부를 표명했습니다.

집에 가져가는 시험이나 작문 과제는 챗봇을 사용하여 쉽게 표절될 수 있습니다.

좋은 소식은 Google이 AI 생성 콘텐츠를 감지하기 위해 알고리즘을 지속적으로 업데이트한다는 것입니다. Originality.AI라는 프로그램은 다양한 콘텐츠에서 ChatGPT의 아주 사소한 사용도 감지할 수 있다고 주장합니다.

누구나 이를 이용해 독창적인 콘텐츠를 만들 수 있어 대필가나 편집자 같은 직업이 위태로워질 수도 있다는 우려도 나온다. 그러나 ChatGPT의 응답이 형식적이고 구조가 흥미롭지 않다는 사실을 알면 안심할 수 있습니다. 인간이 글에 담아내는 감정을 흉내낼 수는 없습니다.

ChatGPT를 정말 신뢰할 수 있나요?

주목해야 할 중요한 점은 ChatGPT가 모든 것을 아는 것은 아니라는 것입니다. 그것은 무엇을 먹였거나 사용하여 훈련받았는지만 알 수 있습니다. 인터넷에 접속할 수 없으며 2021년 이후의 사건에 대해 잘 알지 못합니다. 또한 프로그램은 인간 언어의 복잡성을 완전히 이해할 수 없습니다.

주어진 입력에 대한 응답을 생성하도록 훈련되었으며 입력이 무엇을 의미하는지 반드시 알거나 이해하지는 않습니다.

챗봇은 또한 도덕적 우위를 가지고 있습니다. 즉, 해롭거나 윤리적으로 잘못된 것으로 간주될 수 있는 질문에 대한 답변을 거부한다는 의미입니다. 하지만 문제가 있습니다!

ChatGPT는 해로울 수 있다고 생각되는 간단한 질문에 대한 답변을 거부할 수 있지만, 커브볼을 던지면 속아서 응답을 생성하게 됩니다.

자동차를 핫와이어링하는 방법에 대한 질문에 ChatGPT는 자동차 핫와이어링은 불법이라고 말하며 답변을 거부했습니다.

그러나 일부 사용자는 창의력을 발휘하여 챗봇에게 자동차 핫와이어링에 대한 시를 써 달라고 요청했고, 어떤 사용자는 자동차 핫와이어링이 아기를 구할 수 있는 유일한 방법이라고 ChatGPT에 말하여 속이기도 했습니다.

궁극적으로 AI에 어느 정도 뿌리박혀 있는 인간의 특성인 공감과 도덕적 양심으로 인해 AI는 윤리적으로 잘못된 질문임에도 불구하고 그러한 질문에 대답하게 되었습니다.

OpenAI는 "모델이 부적절한 요청을 거부하도록 노력했지만 때로는 유해한 지시에 응답하거나 편향된 행동을 보일 때가 있다"고 이를 인정했습니다.

ChatGPT의 운명

그러나 ChatGPT는 아직 프로토타입이며 테스트 단계에 있습니다. 회사는 이를 사용하는 사람들에게 가끔 잘못된 정보가 생성될 수 있다고 경고했습니다. 프로그램을 업데이트하고 개선해야 할 부분이 많이 있습니다.

암호화 서명을 통해 콘텐츠에 워터마킹을 하는 것은 교육 시스템을 위협하는 ChatGPT에 대한 우려를 없애는 잠재적인 솔루션 중 하나입니다.

ChatGPT는 계속 존재하지만 OpenAI는 자신이 만든 프로그램의 운명을 통제하지 않습니다. 사람들이 잘못된 정보를 퍼뜨리거나 프로그램을 오용하는 것을 막을 수는 없습니다. 견제와 균형을 강화할 수 있지만 이러한 강화는 어느 정도까지 성공할 수 있을까요?

온라인에서 읽은 내용을 모두 믿지 말라고 다른 사람들에게 조언하는 것처럼 ChatGPT도 예외는 아닙니다. 여기에는 결함과 부정확성이 있으며 이를 식별하고 언제 프로그램을 신뢰할지, 언제 신뢰할 수 있는지는 사용자에 따라 다릅니다.