登錄
選單
登錄
海擇短評 Haize Comment：
近期，億萬富翁間企業家Elon Musk正式公告成立一家人工智慧公司"xAI"。根據美國內華達州的州政府文件，Musk在3月註冊了一家名為X.AI Corp的公司，公司由Musk做為唯一董事並兼任董事長；此前Musk認為Open AI給到旗下ChatGPT過多的道德標準要求，而這些道德限制走火入魔甚至會演變成"訓練AI撒謊(training the AI to lie)"，最終有毀滅人類文明的潛力(potential for civilizational destruction)；在不乏知名人物對其"你行你上"的嘲笑後，顯然Musk做了正式決定。
從公告來看，xAI的團隊成員雲集了DeepMind、OpenAI、Google Research、Microsoft Research與特斯拉等企業的學者型工程師，多數聯合創始人級別的成員都能從Google Scholar中查詢到一長串與AI相關的學術文獻。除了早已知名的Igor Babuschkin、Christian Szegedy外，有三分之一的成員是華人：吳宇懷(Tony Wu)、楊格(Greg Yang)、張國棟(Guodong Zhang)、戴自航(Zihang Dai)，其中楊格、張國棟、戴自航大學分別就讀於(中國)中山大學、浙江大學、北京清華大學。在當前的政治氛圍，稍微有頭腦的美國創投都不會找中國人來做AI領域公司的聯合創始人，更別說像Andreessen Horowitz這樣高舉民族正義大旗來加速自己所投資AI公司孵化的創投。此前美國也有不少民族主義者認定在上海設廠特斯拉的Musk是標準的"美奸"，未來恐怕這類耳語更難斷絕，不過可能Musk也不在乎。可以確定的是，Musk看待創業是從效率、盈利與實用角度出發，可以說算是當前全球化經濟理論的最終捍衛者。
Musk對xAI的定位，是要創造一個“最大程度好奇的人工智慧(maximally curious AI)"，以"構建更安全人工智慧(building a safer AI)"，但同時又"不將道德明確地編寫入人工智慧中(rather than explicitly programming morality into its AI)"。看來這是無法兼顧的兩極，怎麼可能又要生成式AI安全又只讓它說實話？如果潛在的恐怖份子詢問AI核武器的製作方式又如何？目前看來，Musk似乎不會推出ChatGPT這類的C端服務，會將xAI限制在企業間的運用，比如先從Twitter、特斯拉等公司密切合作開始；但如果xAI的目的只是窮盡宇宙的真實本質(understand the true nature of the universe)，看來是很難盈利的，這也是Musk目前還沒說清楚的。
----------
Recently, billionaire entrepreneur Elon Musk officially announced the establishment of an artificial intelligence company, "xAI". According to state government documents in Nevada, USA, Musk registered a company named X.AI Corp in March, with Musk serving as the sole director and chairman. Musk believed that OpenAI imposed excessive moral standards on ChatGPT, and that these moral restrictions could evolve into "training the AI to lie", with the potential for civilizational destruction. After mockery from notable figures challenging him to "put up or shut up", Musk has made a formal decision.
According to the announcement, the team at xAI is made up of scholarly engineers from enterprises such as DeepMind, OpenAI, Google Research, Microsoft Research, and Tesla. Most co-founder-level members have a long list of AI-related academic papers that can be found on Google Scholar. In addition to the well-known Igor Babuschkin and Christian Szegedy, a third of the members are of Chinese descent: Tony Wu, Greg Yang, Guodong Zhang, and Zihang Dai. Yang, Zhang, and Dai attended Sun Yat-sen University, Zhejiang University, and Tsinghua University in China respectively. In the current political climate, any rational U.S. venture capitalist would not have a Chinese co-founder for an AI company, let alone venture firms like Andreessen Horowitz that uphold national justice to accelerate the incubation of their invested AI companies. Previously, many nationalists in the United States labeled Musk, who set up a factory in Shanghai, as a typical "traitor". Such whispers will likely be even harder to quell in the future, although Musk probably doesn't care. What's clear is that Musk approaches entrepreneurship from the perspective of efficiency, profitability, and practicality, making him arguably the last defender of current globalization economic theory.
Musk's vision for xAI is to create a "maximally curious AI" with the aim of "building a safer AI", "rather than explicitly programming morality into its AI". This seems contradictory, how can a generative AI maintain safety while only telling the truth? What would happen if potential terrorists ask the AI how to make nuclear weapons? At present, it seems Musk is not likely to roll out consumer-facing services like ChatGPT and will limit the use of xAI to enterprise applications, starting with close collaborations with companies like Twitter and Tesla. However, if the purpose of xAI is simply to understand the true nature of the universe, profitability may be difficult to achieve, which is something Musk hasn't clarified yet.
----------
최근 억만장자 기업가인 일론 머스크(Elon Musk)는 인공 지능 회사 'xAI'를 설립한다고 공식 발표했다. 미국 네바다주의 주정부 문서에 따르면 머스크는 3월에 유일한 이사와 회장을 맡은 'X.AI Corp'라는 회사를 등록했다. 머스크는 OpenAI가 ChatGPT에 지나치게 높은 도덕적 기준을 부과했으며, 이러한 도덕적 제한은 'AI가 거짓말을 하도록 훈련시키는 것(training the AI to lie)'으로 변질될 수 있으며, 인류의 문명을 파괴할 가능성이 있다(potential for civilizational destruction)고 생각한다. 일부 유명 인사들이 그를 '나서거나 입을 다물라'고 비웃자 머스크는 공식 결정을 내렸다.
발표에 따르면 xAI의 팀은 DeepMind, OpenAI, Google Research, Microsoft Research, Tesla와 같은 기업의 학술 엔지니어로 구성된다. 대부분의 공동 창업자 수준의 회원들은 구글 학술 검색(Google Scholar)에서 찾을 수 있는 인공 지능과 관련된 많은 학술 논문을 가지고 있다. 유명한 Igor Babuschkin과 Christian Szegedy 외에도 중국계 회원의 3분의 1이 있다. 그들은 Tony Wu(吴宇怀), Greg Yang(杨格), Guodong Zhang(张国栋) 및 Zihang Dai(戴自航)이다. Greg Yang, Guodong Zhang, Zihang Dai는 각각 중국 중산대학, 절강대학과 청화대학에 다녔다. 현재의 정치 분위기 하에서 어떤 이성적인 미국 벤처 투자자도 한 중국인을 인공지능 회사의 공동 창업자로 삼지 않을 것이다. Andreessen Horowitz처럼 민족주의의 기치를 높이 들고 자신이 투자한 인공지능 회사의 부화를 가속화하기 위한 벤처 회사는 말할 것도 없다. 이에 앞서 미국의 많은 민족주의자들은 상해에 공장을 건설한 머스크를 전형적인 '배신자'라고 불렀다. 이런 소문은 머스크가 개의치 않을 수도 있지만 앞으로 더욱 가라앉기 어려울 것으로 보인다. 분명한 것은 머스크가 현재 세계화 경제 이론의 마지막 수호자라고 할 수 있는 효율성, 수익성, 실용성의 관점에서 창업을 보고 있다는 것이다.
머스크의 xAI에 대한 포지셔닝은 '호기심이 가장 큰 인공 지능(maximally curious AI)'을 만드는 것이다. '더 안전한 인공 지능을 만드는 것(building a safer AI)', '도덕을 인공 지능에 명확하게 프로그래밍하는 것(rather than explicitly programming morality into its AI)'이 목적이 아니다. 이것은 모순적인 것 같다. 생성식 AI가 어떻게 안전을 보장하는 상황에서 진실만을 말할 수 있겠는가? 잠재적 테러리스트들이 인공지능이 핵무기를 어떻게 만드느냐고 묻는다면 어떤 일이 일어날까? 현재 머스크는 챗GPT와 같은 소비자 대상 서비스를 내놓을 가능성이 높지 않다. 기업 애플리케이션에서만 xAI 사용을 제한하는 것으로 보인다. 예를 들어 트위터와 테슬라 등과의 긴밀한 협력. 그러나 xAI의 목적이 우주의 진실한 본질을 이해하기 위한 것일 뿐이라면 수익은 실현되기 어려울 수 있다. 이 점을 머스크는 아직 대외적으로 설명히지 않았다.
文章鏈接 Hyperlink：https://www.reuters.com/technology/elon-musks-ai-firm-xai-launches-website-2023-07-12/
資料來源 Resource：Reuters
標籤 Label：AI