OpenAI社が安全対策チームを解散【営利優先の経営方針か】

OpenAI社設立時のスタンス

(2024/5/30改定)まず、本稿は2024/5/19付の日経新聞記事を起点に記載します。なによりOpenAI社の設立は2015年です。

当時の設立理念と日々の発表記事の内容がどんどん変わっていくのです。

設立当初OpenAIは広く「人類の利益」の為にAIを開発する組織としていました。なにより当時はNPO法人です。営業部門を設立したのが2019年の事です。

何より大事な「AIの暴走を防ぐ技術」に係る話です。OpenAI社はAIを制御し人の意図に従わせる技術アライメントを大事にしてきました。スーパーアライメントという名の組織を編成して大切にしてきましたが2024年5月に解散しています。

そもそも、設立当初のOpenAIの主な目標と理念は以下4項目でした：

AI技術の開発が人類に有害な結果をもたらさないようにするため、安全で予測可能なAIシステムを構築すること。

AIの利益が広く社会に分配されるようにすること。これには、AI技術の開発が特定の組織や個人に集中しないようにすることが含まれます。

AI研究の成果を広く共有し、学術界や産業界がその恩恵を受けられるようにすること。これにより、AI研究が透明でオープンな形で進められることを目指しています。

短期的な利益にとらわれず、長期的な視点でAIの開発を行うこと。これには、AIが未来の社会に与える影響を考慮しながら開発を進めることが含まれます。

しかし、年月が経つにつれて、OpenAIのアプローチや発表内容は変化してきました。

例えば、以下のような変化が見られます：

設立当初は非営利組織としてスタートしましたが、その後、収益を追求するために一部営利部門を設立しました。これにより、AIの開発と商業化のバランスを取る必要が生じました。

AI技術の急速な進展に伴い、新しい技術や製品の発表頻度が増加しました。これにより、技術の実用化や市場投入が加速しました。

AIの社会的影響が大きくなるにつれ、倫理的な問題や規制の重要性が高まりました。OpenAIもこれに対応するための方針を強化しています。

これらの変化は、AI技術が社会に与える影響の大きさと、組織としてのOpenAIの適応能力を反映しています。設立時の理念は今も基盤として残っていますが、具体的なアプローチや戦略は時代の変化に応じて進化しています。

2024年の時点ではOpenAI社は人間の意図に反したAIの暴走を防ぐ技術を「独立組織で研究しない体制」へと切り替えます。

これまでは専門組織を設けてコンピューティング資源の2割をあてると表明していました。

5月まで存続していた安全対策のチームのスーパーアラインメントはAIの世界でトップレベルの研究者がいました。イリヤ・ザッキバー氏（Ilya Sutskever）とヤン・ライク氏（Jan Leike）です。共にOpenAI社の設立時から研究を主導してきたのです。

ところが、5月14日にその二人が退社する意向を示したのです!!

背景には以下で述べる研究思想の違いがあります!!

日経新聞2024年5月30日の記事を起点に本章補足です。OpenAI社は安全対策強化へ向け新組織を5月末に設置しました。サムアルトマンCEOを含社外の専門家からなる「安全セキュリティ委員会」です。

更には同日、OpenAI社は大規模言語モデル(LLM)を新たに開発していくと発表しています。それは生成AIの基礎技術です。汎用の人工知能、AGIを踏まえた能力の開発検証を想定しています。【開発スケジュールは未発表】

いずれにせよ今回の発表でOpenAI社は安全性を重視していく立場を明確にしています!!

OpenAI社のSEOであるアルトマン氏は事業としてより会社が拡大していくスピードを重視します。2023年11月のアルトマン氏の解任騒動はこうした経営スタイルが背景にあると言われています。

また解任騒動以降、アルトマン氏は社内での立場を強めていて3月には理事に復帰しています。そして今回退社するサッキバーしは解任騒動の時に解任に賛成しています。

OpenAI社の社内で事業拡大を重視するアルトマン氏の一派がビジネスとして研究開発を進めていくわけです。

しかし今回の騒動で会社を去るライク氏の言葉を忘れてはいけません。その主張は「安全文化やプロセスの優先順位は高い」という主張です。

AIの暴走はあってはいけません。

以上、間違い・ご意見は
以下アドレスまでお願いします。
全て返信できていませんが見ています。
適時、改定をします。

nowkouji226@gmail.com