290 판독값

지역 LLM의 윤리: Zuckerberg의 "오픈 소스 AI 선언문"에 대한 대응

~에 의해 Tech Shinobi8m2024/08/04

너무 오래; 읽다

이 게시물은 Zuckerberg가 Fediverse와 오픈소스 LLaMA를 통합한 이유를 설명하는 것이지 그의 미덕 때문이 아닙니다. 그리고 왜 FOSS가 자본주의의 질병을 치료하고 환경을 보호하는 방법일까요?

featured image - 지역 LLM의 윤리: Zuckerberg의 "오픈 소스 AI 선언문"에 대한 대응

‘a future filled with robots’ Image created by HackerNoon AI Image Generator

"오픈 소스 AI 선언문"

Mark Zuckerberg는 수십 년 동안 Richard Stallman의 미움을 받아 왔으며 비디오 에세이의 표지 이미지인 How the Internet was Stolen 과 How AI was Stolen by Then & Now에 모두 등장하는 유일한 사람입니다.

그러나 최근 Fediverse를 채택하고 Llama를 지속적으로 오픈 소스화 하면서 상황이 바뀌었습니다.

Zuckerberg는 최근 "오픈 소스 AI 선언문" 에서 오픈 소스의 5가지 요구 사항을 언급했습니다.

우리는 자체 모델을 훈련하고, 미세 조정하고, 정제해야 합니다.
우리는 우리 자신의 운명을 통제해야 하며 폐쇄적인 공급업체에 갇히지 않아야 합니다.
우리는 데이터를 보호해야 합니다.
효율적이고 실행하기에 합리적인 모델이 필요합니다.
우리는 장기적으로 표준이 될 생태계에 투자하고 싶습니다.

이는 기술 개인과 중소기업의 요구 사항을 정확하게 설명합니다.

내가 이것을 "선언문"이라고 부르는 이유는 이 기사를 읽은 느낌이 GNU 선언문 과 강하게 연결되기 때문입니다.

우리를 무료/자유로운 OS로 만든 GNU 프로젝트에 감사드립니다. 우리를 진정한 개방형 AI로 만들어준 LLaMA 개발팀에게 감사드립니다.

이기주의-이타주의 변증법

도덕감정론 에서 아담 스미스는 다음과 같이 썼습니다.

인간이 아무리 이기적이라고 생각하더라도, 인간의 본성에는 다른 사람의 행운에 관심을 갖고 그들의 행복을 꼭 필요한 것으로 만드는 몇 가지 원칙이 있다는 것은 분명합니다. 비록 그가 그것에서 보는 즐거움 외에는 아무것도 얻지 못하더라도 말입니다.

이러한 이기적 이타주의 또는 윤리적 이기주의 사상은 많은 오스트리아 학파와 행동경제학자에 의해 수행되어 결국 신자유주의 이데올로기 의 핵심 원칙이 되었습니다.

그러나 Zuckerberg와 그의 Meta의 경우에는 더 복잡합니다.

성명서에서 Zuckerberg는 수익성이 있으면서도 도덕적인 오픈 소스를 수용함으로써 얻을 수 있는 이점이 무엇인지 분명히 알고 있습니다.

우리 모두 알고 있듯이, 실리콘 밸리에서는 누구도 "더 큰 이익"에 관심이 없고 "세상을 더 나은 곳으로 만들기"를 정말로 원하지 않습니다. 그들은 단지 이해관계자에 대한 책임이 있습니다.

하지만 윈윈(win-win) 상황은 어떻습니까?

그것이 바로 그들이 대중에게 믿기(느끼기) 위해 파는 것입니다.

변증법적 구조는 이기주의-이타주의 변증법과 동일하게 유지됩니다. 이익을 추구하지만 도덕적인 척하는 이기적인 사업가.

중요한 것은 이것이 공익을 위한 상생의 결과를 가져올 것인가입니다.

대답은 상황에 따라 다르며 그렇지 않을 가능성이 높다는 것입니다. 이들 대마불사 기업은 근본적으로 반동적이다.

더 큰 이익을 달성하는 것은 어렵고, 그것이 [큰] 타자의 이기심의 부산물이라고 믿는 것은 순진합니다. 우리 99%가 적극적 행위자로서 이 변증법적 운동에 참여하지 않는 한. 그렇지 않으면 우리 사회는 기후위기 로 파괴되고 '포스트 휴먼 디스토피아'에 직면할 수도 있다.

탈성장 없음 가속 없음

앞서 연설에서 언급했듯이, 기술의 위험성 , 거대 기술 기업은 다음 경제 사이클/불황이 다시 오지 않는 한 근본적인 정치 경제 질서를 바꾸지 않고 지속 가능성을 위해 데이터 센터를 축소하지 않을 것입니다.

OpenAI의 40억 달러 추론 비용 추정치는 Microsoft에서 OpenAI 임대 서버 클러스터에 대한 지식을 가진 사람으로부터 나온 것입니다. 이 클러스터에는 350,000개의 Nvidia A100 칩에 해당하는 클러스터가 있다고 이 사람은 말했습니다. 이 사람은 이 칩 중 약 290,000개, 즉 클러스터의 80% 이상이 ChartGPT를 구동하고 있다고 말했습니다.

— 아미르 에프라티(Amir Efrati)와 아론 홈즈(Aaron Holmes)

Meta의 AI 미래에 대한 대규모 투자를 표시하여 2개의 24k GPU 클러스터를 발표합니다. 우리는 Llama 3 훈련에 이 클러스터 디자인을 사용합니다. 이번 발표는 우리의 야심찬 인프라 로드맵의 한 단계입니다. 2024년 말까지 우리는 거의 600,000개의 H100에 해당하는 컴퓨팅 성능을 갖춘 포트폴리오의 일부로 350,000개의 NVIDIA H100 GPU를 포함하는 인프라 구축을 계속해서 확장하는 것을 목표로 하고 있습니다.

— Meta의 GenAI 인프라 구축

Zuckerberg는 OpenAI/MS, Google 등과 일치하도록 AI 클러스터를 계속 확장할 것입니다. 오픈소스는 결국 메타에 대한 경쟁 전략에 지나지 않습니다.

노엄 촘스키(Noam Chomsky)와 사이토 고헤이(Kohei Saito)의 탈성장 옹호론은 매우 매력적이지만, 우리는 그것에만 의존해서는 안 됩니다. 가상 머신이 기본 물리적 머신의 한계를 뛰어넘을 수 없는 것과 같습니다. 녹색정치는 신자유주의 경제를 뛰어넘어도 그 자체를 유지할 수 없다.

이제 조건은 분명해졌는데 어떻게 해야 할까요? 분명히, 탈성장이나 가속주의는 인류세 시대에 도움이 되지 않습니다. 하지만 슬라보예 지젝의 "온건한 보수주의"는 어떻습니까?

SaaSS 또는 클라우드 영역?

인터넷에서 독점 소프트웨어가 자유를 잃는 유일한 방법은 아닙니다. 소프트웨어 대체 서비스(SaaSS)는 다른 사람이 귀하의 컴퓨팅에 대한 권한을 갖도록 하는 또 다른 방법입니다. SaaSS는 프로그램 사본을 실행하는 대신 다른 사람이 구현한 서비스를 사용하는 것을 의미합니다. 용어는 우리의 것입니다. 기사와 광고에서는 이를 사용하지 않으며 서비스가 SaaSS인지 여부를 알려주지 않습니다. 대신 그들은 SaaSS를 다양한 다른 관행과 함께 묶는 모호하고 주의를 산만하게 하는 "클라우드"라는 용어를 사용할 것입니다. 일부는 욕설이고 일부는 괜찮습니다.

"클라우드 컴퓨팅"의 많은 의미 중 하나는 데이터를 온라인 서비스에 저장하는 것입니다. 대부분의 시나리오에서 이는 감시에 노출되기 때문에 어리석은 일입니다. 또 다른 의미(겹치지만 동일하지는 않음)는 소프트웨어 대체 서비스로서 컴퓨팅에 대한 제어를 거부합니다. SaaSS를 절대 사용해서는 안됩니다.

— Richard Stallman, 그 서버는 실제로 누구에게 서비스를 제공하는가?

RMS는 오래 전에 이 에세이를 썼지만 최근 Yanis Varoufakis는 이러한 자유 상실 개념을 오늘날의 맥락에서 한 단계 더 발전시켰습니다.

무엇을 달성하려면 놀라운 과학적 혁신, 환상적인 신경망, 상상력을 뛰어넘는 AI 프로그램이 필요했을까요? 창고에서 수고하고, 택시를 운전하고, 음식을 배달하는 근로자를 클라우드 직원으로 전환합니다. 시장이 점점 더 클라우드 영역으로 대체되는 세상을 만드는 것입니다. 기업을 가신의 역할로 강요합니다. 그리고 우리 모두를 스마트폰과 태블릿에 얽매인 클라우드 농노로 만들고, 클라우드 9에서 새로운 군주를 유지하는 클라우드 자본을 열심히 생산합니다.

— 야니스 바루파키스(Yanis Varoufakis), 기술봉건주의 - 무엇이 자본주의를 죽였는가

클라우드 자본 시대에는 온라인 서비스/SaaSS/클라우드 영역을 소유한 클라우드리스트가 구독료, 즉 소위 "클라우드 임대료"를 청구하기 위해 우리의 자유를 빼앗아갑니다. 물론 그들은 우리의 장치(컴퓨팅), 우리의 관심(지갑), 우리의 삶(노동)을 통제하고 싶어합니다.

그렇다면 우리는 어떻게 자유와 민주주의를 되찾을 수 있을까요?

나는 우리가 먼저 오픈 소스 대안을 채택하고 가능하다면 자체 호스팅을 통해 디지털 생활을 자유롭게 [자유롭게] 민주화 [분권화]해야 한다고 주장합니다. 이것은 기술 봉건주의를 전복시키기 위한 나의 버전의 "클라우드 반란"이며, Jacob Appelbaum이 Surveillance [Capitalism] 에서 쏜 것과 동일한 돌입니다.

시스템이 작동하는 방식에 반대하여 작업하는 것이 가장 어려운 일입니다. 그 결과는 더욱 심각한 경제 위기의 반동, 녹색 자본주의의 반복, Alt-Right의 역효과일 것입니다.

이러한 시스템 교착 상태를 극복하려면 피드백 루프를 해결하고 Donella Meadows가 지적한 대로 레버리지 지점을 식별하고 변경해야 합니다.

그렇다면 자본주의 체제에서 지렛대 지점은 정확히 무엇이며 어디에 있습니까? 나는 이것이 Joseph Schumpeter가 제안한 모든 창조적 파괴라고 생각합니다. 예를 들어, 현재 우리가 경험하고 있는 AI 붐과 Llama 및 Stable Diffusion은 가장 강력한 창의적 파괴력입니다.

우리는 또한 David Graeber의 직접 행동이 필요하지만 디지털 생활에도 필요합니다.

정신분열증 및 우울증 치료

시작하기 쉬운 gofoss 및 개인 정보 보호 가이드 와 같은 많은 리소스가 있습니다. 하지만 지금은 지역 LLM에 중점을 둘 것입니다. ollama , Jan , GPT4All 및 llamafile 과 같은 도구는 localhost 또는 LAN에서 자체 호스팅 LLM에 적합합니다.

이는 오픈 소스 AI의 창의적 파괴력을 활용하여 과두제로부터 자유를 되찾는 첫 번째 단계입니다. 목표는 기술에 정통한 사람들이 더 많은 자체 호스팅을 수행하고 기술에 익숙하지 않은 사람들이 Fediverse와 같은 오픈 소스 커뮤니티에서 유지 관리하는 더 분산된 서비스/인스턴스를 사용하도록 장려하는 것입니다.

예, Zuckerberg는 실제로 Fediverse와 오픈 소스 LLaMA를 통합했으며 이는 그의 미덕 때문이 아닙니다. Alibaba와 Qwen도 마찬가지입니다. 질 들뢰즈(Gilles Deleuze)의 표현에 따르면 자본주의는 정신분열적이며, 이는 자본주의가 그 본성상 자기 탈영토화되어 있음을 의미하기 때문입니다. 간단히 말해서, 그것은 자본주의가 자기 파괴적이라는 칼 마르크스의 유명한 주장의 또 다른 방식입니다.

정말로 탈성장을 통해 환경을 구하고 싶다면 그 반대가 아니라 상향식이어야 합니다. 자체 호스팅, 분산형 LLM이 많아지면 [적어도 추론을 위해] 대규모 AI 클러스터에 대한 시장 수요가 줄어들므로 데이터 센터 공급이 자연스럽게 줄어들기 시작할 것입니다.

규제는 그 자체의 의미를 갖고 있지만 경쟁이 치열한 시장에서는 결코 문제를 효과적으로 해결할 수 없으며 인간의 필요와 욕구를 단순히 밀어낼 수는 없습니다. 지나친 입법개입은 실업을 낳고 보수주의의 부활로 이어질 수 있지만 더 나쁜 상태는 극보수주의이다.

이것이 바로 지그문트 프로이트(Sigmund Freud)가 "억압된 것의 끈질긴 귀환"이라고 불렀던 것입니다. 치료법은 더 자급자족하는 것, 즉 [큰] 타자에 의한 소비주의의 잉여 향유에 싫증이 나기보다는 우리 손으로 우리의 필요를 충족시키는 것입니다.

우리가 이미 본 것처럼 자본주의가 공산주의에 의해 종말될 수 없다는 것은 역사를 통해 입증되었지만, 후쿠야마의 역사 종말은 확실히 아니다.

자본주의의 모든 막다른 골목(주기)은 기업가 정신에 의해 바뀔 수 있습니다. "모든 사람이 기업가"라는 의미는 아니지만, 모든 사람은 [자신만의 방식으로] 행동을 취할 수 있는 [그렇지 않은] 기회를 갖고 있습니다. 즉, 기술 혁명 게임에 참여하고 참여할 수 있는 기회가 있습니다. 그리고 그에 따른 사회적 변화.

라캉의 정신분석에서 정신병을 치료할 때 분석가는 비서(기업가)의 역할을 맡아 환자와 협력해야 하며 환자의 규칙(자유 시장)을 따라야 합니다. 그런 다음 고정(기회)을 찾고 환자가 자신의 정신적 구조(순환 흐름)를 보다 안정적이고 지속 가능한 것으로 재배치하도록 격려하십시오. 자본주의의 경우 고정[또는 고정점]은 자유 및 오픈 소스 소프트웨어(FOSS)입니다.

로컬 LLM의 분산화된 자체 호스팅은 Deleuze의 Rhizome과 같습니다. 이는 독점 시장의 수요를 감소시키고 결국 AI 단일체를 해체할 수 있습니다. FOSS의 이러한 자유롭고 생산적인 변화는 자본주의의 질병을 치료하고 환경을 보호하는 방법입니다.

마크 피셔(Mark Fisher)가 말했듯이, 자본주의 이후에는 어떤 모습일지 우리는 모릅니다. 상상조차 불가능합니다. 그러나 우리는 여전히 후기 자본주의의 끝없는 종말을 넘어 우울한 자본주의 현실주의를 탈옥하고 무엇이든 가능한 미래를 재창조해야 합니다(누구나 자유가 있습니다).

다음은 이 게시물의 맥락을 구성한 책 목록입니다.