AI 규제는 어떻게 되나요?

저는 지난달 Jagiellonian University에서 열린 National Diplomacy Week에 초청 연사로 참여했습니다.

외교계는 AI 규제, 개발 및 윤리 주제에 실제로 관여하고 있는 것으로 나타났습니다.

공공외교, 사이버보안, 비즈니스 개발에 있어서의 AI 등의 주제를 논의했습니다. 국제 정치에 관심이 많은 사람들과 기술에 대한 생각을 공유할 수 있어서 좋았습니다.

또한 AI 솔루션이 미래에 제기할 수 있는 기회와 과제를 모두 다루려고 노력했습니다. 우리가 논의한 주요 쟁점을 간략하게 요약해서 준비했습니다. 저는 외교계에 대해 많은 것을 배웠습니다. 저와 함께 이에 대해 깊이 알아보세요.

AI란 무엇인가? 왜 과대광고인가?

왜 지금 AI에 관해 그렇게 많은 이야기가 나오는 걸까요? ChatGPT가 출시된 2022년 가을에 중요한 순간이 일어났습니다. 사람들은 AI에 대해 더 많이 알아채기 시작했지만 기술은 몇 년 전부터 존재해 왔습니다. 누락된 것은 적절한 클라우드 인프라와 서버, 그리고 판매하기에 좋은 상용 제품이었습니다.

인공지능(AI)은 일반적으로 좁은 AI와 일반 AI의 두 가지 유형으로 분류됩니다. 오늘날 시장에 널리 퍼져 있는 Narrow AI는 언어 번역이나 이미지 인식과 같은 특정 작업에는 탁월하지만 프로그래밍된 범위를 넘어서 작동하는 능력은 부족합니다. 반면 아직 완성되지 않은 이론적 개념인 일반 AI(또는 AGI)는 인간의 지능을 모방하여 다양한 영역에 걸쳐 적응성과 학습 능력을 입증하는 것을 목표로 합니다. AGI의 개발은 중요한 사회적, 윤리적, 규제적 영향을 미치며 개인 정보 보호, 안전 및 윤리적 고려 사항을 포함하여 잠재적인 영향을 관리하는 방법에 대한 글로벌 논의를 촉발합니다. 즉, 누군가 실제로 AGI 시스템을 개발하기 전까지는 주제는 순전히 학술적인 것입니다.

현재 AI 분야에서 신경망의 두 가지 주요 유형은 변환기(transformer)와 확산기(diffuser)입니다. Transformer는 텍스트 처리 및 이해에 탁월하여 컴퓨터가 서면 정보로 작동하는 방식을 크게 향상시킵니다. 한편 디퓨저는 초기 컨셉을 점진적으로 개선하여 이미지나 음악과 같은 새로운 콘텐츠를 창의적으로 생성합니다. 이러한 기술만으로는 AGI가 탄생할 가능성이 낮다는 점에 유의하는 것이 중요합니다. AGI를 달성하려면 이러한 현재 아키텍처를 넘어서는 발전이 필요할 것입니다.

AI는 어떤 생활 영역에 혁명을 일으키나요?

전기가 우리 삶의 모든 측면을 변화시킨 것처럼 AI 관련 기술이 이미 우리 업계에서 획기적인 발전을 이루고 있다고 생각합니다. AI는 개인 생활, 비즈니스, 의료, 심지어 군사 작전까지 중대한 변화를 가져올 수 있는 잠재력을 가지고 있습니다.

그러나 AI 개발의 규모와 속도는 적절하게 규제되지 않을 경우 잠재적인 피해에 대한 우려를 불러일으킵니다. AI는 이미 꼼꼼하고 반복적인 작업을 혁신하여 인간보다 더 잘 수행하고 있습니다. 위협이 되기보다는 효율성과 생산성을 향상시키는 데 유용하다고 볼 수 있다고 생각합니다.

우리 문명에 큰 변화가 다가오고 있는데, 그것이 우리 삶에 어느 정도 영향을 미칠지 정확하게 예측할 수는 없습니다. AI가 계속해서 발전하면서 우리는 변화의 시대로 접어들고 있는데, 그것이 어떤 변화를 가져올지 궁금합니다.

어떤 사람들은 현재 텍스트 AI 출력이 기껏해야 평범하다고 말합니다. 규모에 맞게, 즉흥적으로 적용되는 눈에 띄지 않는 기술이 세상을 바꿀 수 있다고 생각합니다.

규제 모델 및 AI 초능력

AI 도구가 사람들의 삶에 이미 긍정적인 영향을 미치고 있음에도 불구하고 잘못된 정보와 스팸 등으로 오용되어 왔습니다. 개인정보 보호에 대한 우려도 있었습니다. 이로 인해 특정 규제 기관이 조치를 취하고 목표 법률을 제안하기 시작했습니다. 게다가 이전 데이터 보호법은 여전히 AI 모델에 적용되고 영향을 미칩니다.

AI 개발이 진행되는 방식과 AI 규제에 대한 태도를 나누려면 미국, 중국, EU의 세 가지 모델을 언급할 수 있습니다.

미국 사람

현재 미국은 AI 시장의 선두주자다. 미국의 관점은 스타트업과 기업을 위한 자유 시장 정책을 통해 기술 산업의 번영에 초점을 맞추고 있습니다. 정부의 영향력을 최소화하는 것을 선호하는 경우도 있습니다.

하지만 Chat GPT가 도입되면서 태도가 바뀌었습니다. 이제 미국은 몇몇 대형 AI 회사에 너무 많은 권력을 통합하는 것을 피하려고 노력하고 있습니다.

이러한 우려에도 불구하고 기업이 자율 규제를 할 것이라고 가정하는 기술 낙관적인 태도는 여전히 남아 있습니다(이는 다소 무리가 있을 수 있음). 이제 AI 사용에 대한 지침을 포함한 새로운 AI 권리장전이 공개되었으며, 이는 적절한 AI 규제 시스템을 향한 첫 번째 단계로 간주됩니다.

중국인

중국의 차세대 계획은 미국을 능가하는 글로벌 AI 리더로 자리매김하는 것을 목표로 하고 있다. 주요 목표는 개발입니다. 처음에는 규정이 없었기 때문에 기업은 자금과 접근 권한을 제공받아 자유롭게 이니셔티브를 추구할 수 있었습니다.

우려는 제너레이티브 AI의 급속한 발전과 함께 시작됐다. 정부는 AI가 검열 범위를 벗어난 콘텐츠를 생성할 수 있다는 점을 두려워했습니다.

현재 사업 개발을 지원하는 동시에 발전이 공산당의 비전과 일치하는지 확인하기 위한 규제 실험이 진행 중입니다.

유럽 연합

EU에서는 현재 시민법과 윤리에 초점을 맞춘 AI의 인간 중심적 비전을 포함하는 AI법을 마무리하고 있습니다. 핵심 딜레마는 균형을 맞추는 방법입니다. 스타트업을 혁신적으로 유지하고 기술적 독립성을 보장하는 동시에 시민과 시민의 권리를 안전하게 보호하는 방법입니다.

언급된 모델 외에도 자체적으로 독립적인 법률을 만들려고 노력하는 다른 국가/조직도 있습니다.

이스라엘을 예로 들어보겠습니다. 국방부 장관은 이스라엘을 군사 응용 분야에 중점을 두고 AI 초강대국으로 만들 계획을 발표했습니다. 그들은 국방 요구에 관한 법률 및 연구에 초점을 맞춰 AI 개발에 사상 최대 예산을 투입했습니다.

또는 최근에는 프랑스, 독일, 이탈리아가 유럽 기업에 관한 통합 규제 프레임워크인 AI에 동의했습니다. 그들은 기업에 대한 제재가 즉각적으로 이루어지기보다는 인센티브에 중점을 두고 나중에 필요한 경우 심각한 위반에 대한 처벌을 원합니다.

얼마 전 우리는 또한 이탈리아가 개인 데이터 처리 처리에 관한 적절한 프로세스가 부족하고 연령 제한이 없다는 이유로 ChatGPT를 차단하는 것을 보았습니다.

다양한 솔루션이 논의되고 구현되고 있습니다. 일부에서는 아직 존재하지 않는 것을 규제하려고 합니다(AGI). 일부에서는 AI 시스템 운영 비용을 높여 더 큰 플레이어에게 이익이 될 것으로 보이는 제한을 두는 것을 제안합니다.

잠재적으로 나에게 영향을 미칠 수 있는 공간이기에 적당한 관심을 갖고 지켜보고 있다. 즉, 규제가 혁신에 해를 끼칠지라도 그에 수반되는 계획보다는 실제 기술에 시간을 투자하는 것이 더 흥미롭습니다.

자체 AI 스타트업을 운영할 때 어떤 규제 문제에 직면했습니까?

머신러닝 모델 개발은 훈련 데이터에 따라 달라집니다. 기업이 비즈니스에 대해 이야기할 때 데이터를 안전하게 보관하고 합법적으로 양도하는 방법에 대해 논의하는 데 많은 시간이 소요됩니다.

제가 본 바에 따르면, 중국은 데이터 안전에 있어서 엄격한 편입니다. 모든 것은 당국의 승인을 받아야 하며 규칙은 엄격합니다. 이 때문에 많은 회사가 그곳에서 사업을 하고 싶어하지 않습니다(정치적 이유도 있음).

EU는 사용자의 데이터를 자국 국경 내에서 유지하는 것을 목표로 합니다. 규정에 따르면 EU 회사와 EU 시민만이 이를 처리할 수 있습니다. 관점에서 보면 이는 중국이 시행하는 것과 매우 유사합니다.

은행과 금융 기관은 가장 엄격한 규칙을 가지고 있습니다. AI 프로젝트에 관해 제가 나눈 많은 영업 대화에서 기업이 데이터를 익명으로 만들 수 없거나 사용자 데이터를 안전하게 공유할 수 있는 충분한 정책이 없다고 말하면서 상황이 중단되었습니다.

그러나 이러한 상황은 또한 온프레미스에서 작동하는 제품에 대한 틈새 시장을 창출합니다. 우리는 고객의 데이터 센터에서 실행할 수 있는 AI 제품을 보유할 수 있으며 이는 많은 가능성을 열어줍니다. 이것이 제가 Sentimatic으로 선택한 경로입니다.

폴란드의 AI 개발

나는 나의 지역적 관점과 토론 중에 들었던 의견들을 혼합하여 가져옵니다.

EU 법률에 있어서 폴란드는 설립 과정에서 역할을 하지만 단순히 우리가 회원국이기 때문에 그렇게 하도록 일종의 '강요'를 받습니다. 예를 들어, 최근 EU AI Act 참여는 다소 실망스러웠습니다. 우리나라에서는 12명만 참여했고 절반은 민간 기업에서 참여했으며 나머지는 디지털화부와 직접 연결되어 있었습니다.

폴란드 시민과 기업은 AI 규제에 큰 관심을 보이지 않습니다. 현재 우리의 태도는 적극적으로 기여하는 것보다 받는 쪽에 더 가깝다는 것입니다. 게다가 폴란드에는 강력한 AI 스타트업이 충분하지 않습니다. 우리는 다른 유럽 국가들에 뒤처질 위험에 처해 있습니다.

다행히 Eleven Labs와 같은 AI 스타트업이 잘나가고 있습니다. 우리는 AI 연구를 많이 하지만 이를 상업적인 것으로 바꾸는 것은 어려운 일입니다. PARP(정부 기관)와 같은 곳에서는 AI 프로젝트에 사용할 수 있는 자금이 있지만 필요한 서류 작업이 방대하므로 많은 관료적 위험을 감수할 수 있는지 고려해야 합니다.

지금까지 우리는 (폴란드 엔지니어처럼) 주로 서유럽과 미국 회사에서 일했지만 많은 것을 배웠다고 생각합니다. 약간의 낙관주의를 가지고 우리는 그 경험과 돈을 사용하여 AI 장면을 구축하는 방법을 알아낼 수 있습니다. 그러니 당연히 무슨 일이 일어날지 궁금합니다. 그리고 기여하게 되어 기쁩니다.

AI 개발을 최대한 활용하려면 어떻게 해야 할까요?

AI의 급속한 발전으로 인해 앞으로 다가올 다양한 기회를 놓치기 쉽습니다. 이 논쟁의 맥락에서 이 기술적 혁신을 최대한 활용하기 위해 생각하는 것이 유용하다고 생각하는 것은 다음과 같습니다.

자금 확보:

• AI 프로젝트에 자금을 지원하기 위한 민간 및 정부 이니셔티브를 살펴보세요.

• 자금 조달의 결과를 염두에 두십시오. 전문가로서 작은 제품도 부트스트랩할 수 있습니다.

  
  

인식하고:

• 새로운 AI 솔루션에 대한 최신 정보를 유지하되 과대 광고에 휩쓸리지 마십시오.

• 귀하의 권리와 비즈니스에 영향을 미칠 수 있는 정부 규정을 주시하십시오.

  
  

취업 기회를 찾고 있습니다:

• AI 산업에서 새로운 역할을 찾고 틈새시장을 찾으세요.

• 기업은 여전히 AI 통합을 시도하고 있으므로 AI 도구를 사용하여 작업을 간소화하세요.

  
  

개인 정보 보호에 대한 생각:

• AI 채팅 애플리케이션에 개인 정보 보호 설정을 적용하여 데이터를 보호하세요. 데이터가 훈련에 사용되지 않도록 비용을 지불하세요.

  
  

개인화와 자동화의 균형:

• 콘텐츠 제작에는 AI를 사용하지만 직접적인 방법은 아닙니다. 영감을 얻으세요. 비판을 받으세요. 항상 가치를 더하세요.
• 항상 AI 생성 콘텐츠의 품질과 관련성을 확인하세요.
• AI 도구에 조심스럽게 접근하면 놀라운 자신감을 가지고 실수를 하게 됩니다.

결론

AI 발전은 피할 수 없다. 주제를 회피하거나 신기술의 위험성으로 사회를 위협하는 것보다는 미리 대비하는 것이 좋습니다. 이 기술 혁명은 다른 혁명과 다를 수 있지만, 두려움을 조장하는 사람들은 인류가 시작된 이래로 우리 가운데 있었습니다. 물론 규제가 필요하며 AI가 주도하는 붕괴로부터 사회를 보호해야 하지만 결정은 두려움이 아닌 증거 기반이어야 합니다.

개인적인 관점에서는 폴란드가 AI 법률 제정에 더욱 적극적으로 참여하기를 바라며 개인적으로나 직업적으로 나에게 영향을 미칠 수 있는 새로운 규정이 나오는 것을 면밀히 관찰하고 있습니다.

지금 우리가 할 수 있는 최선의 일은 스스로를 교육하고 모든 것을 최대한 활용하려고 노력하는 것이라고 생각합니다. 일부 기회를 놓치고 (생성) AI가 제공하는 모든 잠재력을 활용하지 않는 것은 어리석은 일입니다.

당신의 생각? 더 걱정되나요, 아니면 흥분되나요? 규제: 학사인가, 필요성인가?

왼쪽에 이메일 주소를 입력하여 내 프로필을 구독하고 내 기사에 대한 최신 소식을 받아보세요!

더 많은 팁과 통찰력을 얻으려면 Twitter @ horosin_ 에서 저를 팔로우하고 제 블로그 뉴스레터를 구독하는 것을 잊지 마세요!

Twitter가 없다면 LinkedIn 에서 나를 팔로우할 수도 있습니다.

여기에도 게시되었습니다.