세기 말에는 자동차가 보행자를 앞지르게 될까요?

어떤 사람들은 21세기의 가장 중요한 질문이 다음과 같다고 말합니다. AI가 10년 또는 100년 후에 인간을 능가할 것인가? AI가 사람들의 직장을 대체할 것인가? 그리고 너무 늦기 전에 AI를 멈춰야 하지 않을까?

소프트웨어 개발 분야에서 일할 때 이러한 모든 질문은 분명히 터무니없는 것입니다. 우선, 우리가 소프트웨어 제품을 만드는 유일한 이유는 직장에서 사람들을 대체하는 것입니다 . 만들 가치가 있는 유일한 소프트웨어는 한 가지 측면에서 인간을 능가하는 소프트웨어입니다. 너무 늦었습니다. 소프트웨어는 이미 수많은 엔지니어와 비서를 대체했습니다. 아니, 신제품이 AI 우산에 속하는지 여부에 관계없이 새로운 소프트웨어 개발을 중단해서는 안 됩니다.

그러나 일반 대중은 여전히 이러한 질문이 타당하다고 생각합니다. 나는 이것이 인간의 지능이 지능의 정점이고 다른 모든 지능은 인간과 같은 정도만큼 지능적이라는 깊이 뿌리박힌 개념 때문이라고 생각합니다. 글쎄요, 그렇게 생각하셨다면 죄송합니다. 나는 당신을 불편하게 만들 것입니다.

사람들은 그렇게 똑똑하지 않아요

집단적으로든 개인으로서든 사람들은 인간의 지능이 엄청나게 과대평가되어 있다는 사실을 지속적으로 보여 왔고 계속해서 보여주고 있습니다. 예를 들어 현재 전쟁을 생각해보십시오. 1년 전 러시아는 5개 방향으로 분산된 약 15만 명의 병력을 이끌고 우크라이나를 침공했습니다. 당시 우크라이나 군대는 약 25만 명 정도였으며 방어에 나섰습니다. 제정신의 전략가라면 이 숫자가 러시아에 유망하다고 말할 수 없을 것입니다. 경험상 공격에서는 수비 측보다 최소 3배 많은 인원이 필요합니다. 러시아군은 이 목표 수에 60만명이 부족했지만 단 3일 만에 키예프를 점령할 계획이었습니다. 말도 안 되는!

물론, 러시아가 실패했다고 말할 수도 있습니다. 러시아는 독재 국가이고, 독재 국가는 정보 수집에 매우 취약합니다. 표현의 자유를 체계적으로 탄압한다면 담론에서 두뇌의 힘을 배제하는 것은 사실상 나라 전체를 멍청하게 만드는 것입니다. 그러나 키예프가 함락될 것이라고 믿었던 것은 러시아만이 아니었습니다. 2022년 2월 25일, RAND 회사는 우크라이나 정부가 키예프를 떠나 카르파티아 산맥에 정착해야 한다고 제안하는 게시물을 게시했습니다.

인간의 지능이 지능의 정점이라고 믿는다면, RAND Corporation은 인간 지능의 정점입니다. 제2차 세계대전 이후 미군을 위한 연구를 위해 설립된 싱크탱크입니다. 그리고 미국 군대는 현재 세계에서 가장 큰 조직이며 말할 필요도 없이 전쟁, 러시아, 도시 전쟁에 대해 한두 가지 알아야 합니다.

나는 RAND 회사가 돈을 벌 가치가 없다고 말하는 것이 아닙니다. 나는 그들이 멍청하고 내가 똑똑하다고 말하는 것이 아닙니다. 사실 2022년 2월에 저는 동료들이 화염병을 섞는 동안 키예프에서 직접 참호를 파고 있었습니다. 우리는 모두 러시아 군대가 도시에 진입할 것이라고 확신했지만 그들이 그 경험을 즐기지 않을 것이라고 확신했습니다. 우리 모두는 실패했고, 그 순간의 열기 속에서 우리 모두는 단순한 수학이 아니라 집단 히스테리를 믿었습니다.

그게 사람들이 하는 일이니까요.

그리고 우리가 시사 문제를 다루는 동안 Max Tegmark는 그의 "Life 3.0"에서 우리가 호랑이보다 지능이 높기 때문에 사람들이 호랑이를 우리에 가두는 것이라고 주장합니다. 뛰어난 지성은 열등한 지성을 사로잡는다. 아니요. 이것은 작동 방식이 아닙니다. 별말씀을요. 우리는 우리가 있기 때문에 우리에 호랑이를 넣습니다. 중요한 것은 지능이 아니라 수단입니다. 증거를 원하시나요? 코로나19를 기억하세요.

바이러스에는 뇌가 없으며 신경 활동도 전혀 없습니다. "인간과 같은" 기준으로 볼 때 그들은 전혀 지능이 없습니다. 그러나 그들은 금세기 최대의 지적 결투에서 인류에게 도전했습니다. 그리고 인간으로서 우리는 이 결투에서 승리하지도 못했고, 백신을 개발하기 전후에도 수백만 명의 목숨을 잃으면서도 우리 자신을 보호하는 법을 거의 배우지 못했습니다. 코로나19는 아무데도 가지 않았고, 단지 우주의 다른 모든 바이러스가 하는 일을 했습니다. 즉, 더 적은 사람을 죽이고 더 많이 감염시키도록 스스로를 조정했을 뿐입니다.

코로나19도 한 일 – 우리가 실제로 얼마나 믿을 수 없을 정도로 멍청한지 보여주었습니다. 안티백서뿐만 아니라 모든 사람이요. 개인, 주, 전세계 조직. 돌이켜보면 우리 모두는 비합리적으로 행동했습니다. 알려진 사실이나 연구 데이터에 따른 것이 아니라 대부분 현재의 유행과 끈질긴 믿음에 따른 것입니다. 과학을 믿는 사람들은 큰 농장이 단지 개인적으로 괴롭히기 위해 존재한다고 믿는 사람들보다 생존율이 더 높았지만 그게 전부입니다.

인류로서 우리는 백신을 개발할 만큼 지능이 있지만 지능을 균등하게 퍼뜨릴 만큼은 아닙니다. 그리고 팬데믹에서 살아남는 것은 말 그대로 삶이냐 죽음이냐의 문제입니다. 우리가 다른 문제에 있어서 더 똑똑해질 수 있다고 진지하게 생각하시나요?

인간의 지능은 그렇게 보편적이지 않다

'인간형 = 지능' 지지자들은 일반적으로 오늘날 우리가 갖고 있는 AI는 전문화되고 실제 지능은 보편적이기 때문에 실제 지능이 아니라고 말합니다. 하지만 실제로는 AI가 보편적이고, 인간의 뇌는 특화돼 있다. 시연해 보겠습니다.

예를 들어, 우리에게 카드 한 벌이 있다고 가정해 보겠습니다. 각 카드의 한 면에는 문자가 있고 다른 면에는 숫자가 있습니다. 유일한 규칙은 한 면에 모음이 있는 카드의 다른 면에는 짝수가 있어야 한다는 것입니다. 그러나 우리는 모든 카드가 이 규칙을 따르지는 않는다고 가정할 이유가 있습니다.

이제 "B", "17", "28"이 적힌 카드가 테이블 위에 놓여 있습니다. 모든 카드가 규칙을 따르는지 확인하려면 어떤 카드를 뒤집어야 할까요?

자, 이것은 간단한 문제입니다. 그냥 건너뛰지 마세요.

글쎄요, 어쨌든 누가 기호 계산을 할 시간이 있는지 이해합니다. 여기에 또 다른 문제가 있습니다.

당신은 술집에 있는 경찰관이고 그 술집이 미성년자에게 술을 제공한다고 의심합니다. 세 사람이 보입니다. 술집에 늙은 남자가 있는데, 그가 무엇을 마시고 있는지는 알 수 없습니다. 그리고 젊어 보이는 두 명의 친구가 테이블에 앉아 있고, 한 명은 콜라를 마시고 다른 한 명은 맥주를 마시는 것을 볼 수 있지만 그들이 미성년자인지 아닌지는 즉시 알 수 없습니다. 이 세 사람 중 누구에게 질문해야 합니까?

옳은! 맥주를 마시는 젊은 남자. 확실히! 이 문제는 훨씬 쉽죠?

그렇지 않습니다. 이것은 이전과 똑같은 문제입니다. 카드는 사람으로, 문자는 나이로, 숫자는 음료수로만 대체했습니다. 그러나 우리의 지성은 보편적이지 않기 때문에 사람들이 이러한 "인간화된" 문제를 해결하는 것이 훨씬 쉽습니다. 우리의 두뇌는 추상적인 문제가 아닌 사회적 문제를 해결하는 데 특화되어 있습니다.

모든 데이터에 대해 신경망을 훈련할 수 있습니다. 카드 또는 사람. 그러나 인간의 두뇌는 추상화에 걸려 넘어집니다. 그것은 인간의 맥락을 갈망합니다. 저를 믿으세요. 나는 프로그래머를 위한 기하학(Geometry for Programmers) 책을 썼고 글을 쓰거나 편집하는 것이 아니라 추상적 기하학을 실제 문제에 연결하려고 노력하는 데 대부분의 노력을 쏟았습니다. 학교에서 실제 문제는 좋은 성적을 받는 것입니다. 하지만 야생에서 사람들은 "X"를 볼 때마다 짜증을 내고 밑에는 해적 전리품이 없습니다.

사람들은 믿는 경향만큼 추론에 능숙하지 않습니다.

인간 지능의 우월성에 대한 마지막 주장은 인간은 결론을 내릴 수 있지만 기계는 의식적인 생각 없이 배운 내용을 단순히 복제할 수 있다는 것입니다. "의식"과 "학습"이라는 용어의 모든 혼란을 뒤로하고, 이것은 단순히 사실이 아닙니다. 사실, 그것은 완전히 반대입니다. 잠깐만요, 그러면 정말 불편해질 거예요.

1. 복소수는 곱셈에 대해 교환 가능합니다. 즉, "a"와 "b"가 복소수이면 "a×b = b×a"가 됩니다. 그것은 한 가지 사실입니다. 제 말을 믿지 못하시면 구글에 검색해 보세요.

이제 복소수의 곱셈은 기하학적 의미를 갖습니다. 복소수의 실수부를 하나의 유클리드 축으로 취하고 허수부를 다른 축으로 취하면 복소수는 평면 위의 점을 나타냅니다. 복소수에 다른 복소수를 곱할 때 좌표 평면 중심을 중심으로 점을 회전하고 중심에서 더 가깝거나 더 멀리 이동합니다. 두 번째 숫자가 정규화되면(즉, 해당 점이 좌표 평면 중심에서 정확히 1 단위에 있음을 의미) 추가 이동을 수행하지 않고 첫 번째 점만 회전합니다.

2. 따라서 회전은 복소수 곱셈의 특별한 경우입니다. 그것은 또 다른 사실입니다.

3. 지구는 타원 궤도로 태양 주위를 움직입니다. 이는 황도면이 있고 지구도 태양도 이 평면을 떠나지 않는다는 것을 의미하는 평면입니다. 세 번째 사실입니다.

이 세 가지 사실을 결합하면 태양이 지구 주위를 회전하는 경우에만 지구가 태양 주위를 회전한다는 것을 누구나 추론할 수 있습니다.

하나는 다른 하나 없이는 수학적으로 불가능합니다. 이는 갈릴레오 갈릴레이뿐만 아니라 갈릴레오를 투옥한 교황 우르바노 8세도 옳았다는 뜻이다. 그의 지성은 갈릴레오보다 우월한 것이 아니라 단지 그렇게 할 수 있는 수단을 가지고 있었음을 기억하십시오.

나는 알고 있다. 지구 중심 모델이 태양 중심 모델만큼 정확하다는 개념 자체가 당신을 극도로 불편하게 만든다는 것을 알고 있다. 그러나 수학적으로 두 모델 모두 똑같이 정확합니다. 그러나 그들은 다른 응용 프로그램을 가지고 있습니다. 태양 중심 모델은 천문학자에게 더 유용하고 지구 중심 모델은 농부에게 더 유용합니다. 갈릴레오는 천문학자였고, 교황 우르바노 8세는 농민 사회를 통치했습니다. 그들은 믿음이 아니라 이해관계의 충돌을 겪었습니다. 돌이켜 보면 모든 것이 의미가 있습니다.

하지만 당신은 아직도 내 논리에서 결함을 찾으려고 노력하고 있습니다. 이건 정말 있을 수 없는 일이에요! 태양은 지구 주위를 회전할 수 없습니다. 이것은 학교에서 배운 것이 아닙니다! 하지만 당신은 모든 사실을 알고 있습니다. 그리고 인간으로서 결론을 내릴 수 있습니다. 배운 내용에만 의존할 필요는 없습니다.

하지만 머리에 총을 겨누고 벽에 기대어 두지 않는 한 그럴 것입니다.

그건

무엇

사람들

하다.

내가 방금 당신을 바보라고 불렀나요?

예. 그리고 나에게는 그렇게 할 완전한 도덕적 권리가 있습니다. 왜냐하면 고기와 뼈, 그리고 가끔씩만 뉴런으로 이루어진 인간이기 때문에 나 자신도 바보이기 때문입니다. Tim Minchin이 말했듯이 " 생강만이 다른 생강 생강을 부를 수 있습니다 ." 그리고 마찬가지로 바보로서 나도 당신을 놀랍도록 멍청하다고 부를 수 있는 권리를 기꺼이 행사할 것입니다.

그러나 내 요점은 당신을 화나게 하거나 나 자신을 모욕하려는 것이 아닙니다. 내 요점은 인공 지능에 대해 덜 걱정하고 타고난 어리석음에 대해 더 걱정해야 한다는 것입니다. 전쟁을 시작하는 것은 AI가 아니고 대량 학살을 저지르는 것도 AI가 아니며 백신에 대한 거짓말을 퍼뜨리는 것도 AI가 아닙니다. 우리야. 사람들.

오히려 우리는 지능을 받아들여야 합니다. 자연적이건 인공적이건 결국 후자는 전자의 산물일 뿐이다. 인류로서 우리는 항상 책, 주판, 대수 자, 전자 컴퓨터 등 인공 도구를 사용하여 지능을 향상시킬 수 있는 방법을 찾고 있었습니다.

이제 우리는 인공 지능이라는 넓은 범위에 속하는 특별한 종류의 소프트웨어를 갖게 되었습니다. 그러나 이것은 본질적으로 인류가 아닌 책과 주판의 연속입니다. 실수하지 마십시오. 우리는 인공적인 초지능 인간을 만들려고 하는 것이 아닙니다. 자동차가 빠르게 달리는 안드로이드가 아니라 단순한 인간이 할 수 없는 일을 할 수 있는 훨씬 단순한 기계인 것처럼, 인공 지능은 설계된 작업에서 사람보다 뛰어난 성능을 발휘하는 단순한 소프트웨어입니다.

그리고 AI의 주요 임무는 인류 모두를 더 똑똑하게 만드는 것입니다.