AIは「仕事を奪う存在」として語られることもあれば、「人類を支える知能」として
期待されることもあります。私自身もTechGymでPythonを学び、その後
WSL・Rails・PostgreSQL・Ollamaを何度も構築しながら、700本以上の記事を書き続けてきました。
AIは便利なツールですが、同時に「どう使うか」を人間側が考えなければならない技術でもあります。
本記事では、ジェフリー・ヒントン氏とイリヤ・サツキバー氏の議論を出発点として、
AI時代に人類がどのような規範を持つべきかを整理し、私自身の経験も交えながら考察します。
昨今、AIは社会での合意形成に使えると考えられ、また汎用的に様々な作業をこなせるだろう
と考えられ始めています。（いわゆるAGI）本稿ではそうしたAIの進化がもたらすものに対して
「人類がどう接して行けば良いか」考えていく一つの指針です。
話はカナダの片隅での会話から始まります。
ヒントンをサツキバー訪問
(2024/11/1‗改訂）本記事は日経新聞の2024年3月の記事を起点に記事を始めます。
皆さんが大きな関心を持っていているAIの動向についての話題です!!
始まりはカナダのトロント大学教授ジェフリー・ヒントン氏と教え子のイリヤ・サツキバー氏の会食です。AIについて恐ろしい事を語ります。以下にヒントン氏のy=a/(2040-x)という考え方（数式）が出てきます。ただし、次の点を念頭に置くことは有益かと思えます。
①ヒントン氏はＡＩの研究者であって経済学専門ではない。
ヒントン氏の意見が民意を反映しているかという論拠が弱い。
②ＡＩが作るモデルで「現実と相関がとれているか」保証が出来ない
（現時点での話を考えてみて下さい。）
記事内容に対して不必要に不安を感じる必要はないです。
加えて、関連商材に安易な費用をかける事は無いです。（ネットは怖いよ～（笑））理性的に考えて下さい。筆者はAIは根本的に学ばないと全容が分からない筈だというスタンスです。学ぶ過程で確実に関連スキルも伸びます。理解が深くなります。逐一、内容を確認、討議していきましょう。
私も学びます。
■筆者がAIを学び続けて感じたこと
私自身はTechGymでPythonを学び始め、その後はWSL、Rails、PostgreSQL、Ollamaを
何度も構築しながらAIを実際に触ってきました。AIはニュースだけ見ていると「魔法」のように思えます。しかし実際に
構築してみると、モデルの性能、GPU、メモリ、データ品質など、多くの現実的な制約があります。だから私はAIを過度に恐れるより、「理解しながら付き合う」姿勢が重要だと考えています。
昼食を食べy=a/(2040-x)
ヒントン氏とサツキバー氏の話題にあがったのはy=a/(2040-x)という式です!!ここでのyは国民総生産(GNP)でx西暦で表した年数です。aは正の定数。
少し数学が分かる高校生は式が発散していく様子が分かるでしょう。
サツキバー氏の名は先日のOpenAI社での騒動において、更に有名となりました。その際の解任劇で問題視されていた一つが、AIの進化の方向性であるという憶測も流れています!!
特異点の脅威
何がAIネタで脅威かと言えば、AIの能力が無限に高いことです。サツキバー氏が恩師との会話で問題視した上記の数式が発散していく様子が驚異です。
どう怖いかと言えばAIの能力が無限に高まり人のする仕事が無くなること等です!!
懸念は、失業の増加や労働市場の変化、経済格差の拡大などが挙げられます。他の懸念もありますが、それらに対しては別項で再考察していますので割愛致します。
労働市場の変化:
AIによって一部の仕事が自動化されると、新しい職種やスキルが求められるようになります。しかし、既存の労働力が新しい要件に適応することが難しい場合、適切なトレーニングや教育の提供が必要です。
人間らしいスキルの価値:
一方で、AIがルーチンな仕事を担当する一方で、人間の特有のスキルやクリエイティビティが重要となるかもしれません。人間が持つ感情や倫理的な判断力、創造性などが、AIでは難しい領域です。
これらの課題に対処するためには、教育・訓練の充実、新しい雇用機会の創出、社会的な支援制度の見直しなど、包括的な対策が必要です。AIの発展を活かしながら、社会全体が持続可能かつ公正な形で変化していくことが求められます。
■Search Consoleで感じたAIの現実
AIが仕事を奪うと言われますが、私自身は700本以上の記事を書き、Search Consoleで数年間試行錯誤してきました。
実際にはAIだけで評価が決まるわけではありません。検索順位にはユーザー体験、サイト構造、内部リンクなど多くの要素が関係します。
AIは万能ではなく、人間が整理し改善を繰り返す工程を補助する存在だと感じています。
望ましい進化への私論
以上の議論でAIの進化を考えてみます。大事に考えるのは次の2つのポイントです。すなわち、
①AIは今後も手法として大規模モデルのネットワークを使い開発されていく。
②ネットワークで学習するモデルに思想を含め判断基準をもたせる。
つまり学習前にAIに対して規範を与える。
うまく言語化出来ているか自信がありませんが、言葉を続けます。モデル内で一定の期間の内に規範を参照する仕組みが不可欠です。無論、誰しもAIに支配される生活は望んでいません。それだから大枠では基本的に開発者は足並みを揃え開発を進めていきます。全体の行動が最適化された時に善意が形成されます。
ただし、規範の設定と運用で議論をしていく仕組みがほしいですね。そして、何よりAIに関わる指示を「具体的に行いたい」と個人的に思っています。人は意見を対立させるものですから経済学でゲーム理論が取り入れられたようにAIの議論でも「対立」の概念を取り入れてはいかがでしょうか。
具体的には個々のAIが、どのように判断するかをジャッジする仕組みを作って公平な土俵で勝負させるのです。鞍点が議論の中で出てくるような議論が出来たらしいですね。対立する人々の間で満足が出来る妥協点を見つけていく事が解決へつながるでしょう。具体的に以下、AIにおける対話型の規範形成と運用の仕組みを構築するためのアイデアを示します。
規範の共同作成と修正:
開発者、専門家、一般ユーザーなど、異なるステークホルダー想定して、全てを巻き込んだ多様なグループを形成します。グループは、AIの規範や倫理に関するディスカッションを行い、共同で規範を作成・修正します。
ゲーム理論の導入:
AIの意思決定に関する議論では、ゲーム理論の原則を活用して異なる利益や視点を考慮に入れます。対立する立場がある場合、ゲーム理論を用いて最適な妥協点や解決策を見つける努力をします。例えば将棋界におけるAIとの勝負の歴史は大いに参考となるはずです。
ジャッジメント・フレームワークの構築:
AIが判断を下す基準やプロセスに関する透明性を確保するためのジャッジメント・フレームワークを設計します。これにより、開発者やユーザーがAIの判断を理解し、必要に応じて議論の根拠を検証できるようになります。
デリバレーティブ・デモクラシー:
意思決定のプロセスを透明で民主的なものにするため、デリバレーティブ・デモクラシーの原則を導入します。グループ内の多様な意見を尊重し、意思決定において異なる立場を均等に考慮します。
検証と改善サイクル:
AIが規範を遵守しているかどうかを定期的に検証し、必要に応じて修正を行います。ユーザーフィードバックや新たな倫理的な課題に対応するため、継続的な改善サイクルを確立します。こうしたアプローチは、AIの規範に対する透明性と民主性を高め、議論や対立を解決するためのフレームワークを提供します。
■AIは人の議論を補助する存在になれる
私はRailsとPostgreSQLを組み合わせてAIシステムを試作し、OllamaによるローカルLLMも何度も構築してきました。
その経験から感じるのは、AIは最終判断を下す存在ではなく、人間同士の議論を整理する役割に向いているということです。
例えば複数の意見を比較したり、論点を抽出したり、メリット・デメリットを整理したりする作業ではAIは非常に優秀です。
しかし価値観そのものを決めるのは、人間であるべきです。
私がAI時代で一番大切だと思うこと
AIを恐れる必要はありません。しかしAIに判断を丸投げしてはいけません。
私自身、Python学習から始まり、Rails、PostgreSQL、Ollamaなど様々な環境を構築し、
700本以上の記事を書きながらAIと付き合ってきました。
最終的に感じるのは、AIは「答え」を与える存在ではなく、
人間の思考を整理する道具だということです。
AI時代だからこそ、人間は議論し、学び続け、自分自身で
判断する力を失わないことが重要だと考えています。
QA集
Q1 AIは本当に人間を超えるのでしょうか？
能力の高い分野は増えていますが、価値判断や倫理的判断は依然として人間が担うべき領域です。
Q2 AGIとは何ですか？
幅広い知的作業を人間並みにこなせる汎用人工知能を指します。
Q3 Geoffrey Hinton氏が警鐘を鳴らす理由は？
AIの能力向上が社会制度より速く進む可能性を懸念しているためです。
Q4 AI時代に学ぶべきことは？
Pythonなどの技術だけでなく、情報整理や論理的思考も重要になります。
Q5 AIは社会の合意形成にも使えるのでしょうか？
論点整理や複数意見の比較には有効ですが、最終的な価値判断は人間が行うべきです。
Q6 AIを怖がる必要はありますか？
必要以上に恐れるよりも、仕組みを理解して使いこなす姿勢が重要です。
Q7 AI時代でもプログラミングは必要ですか？
はい。AIを適切に活用するには、仕組みを理解するための基礎知識が役立ちます。
Q8 筆者はなぜAIを楽観視し過ぎないのですか？
実際にWSL・Rails・PostgreSQL・Ollamaなどを何度も構築し、AIの限界と可能性の両方を体験してきたためです。
Q9 Search Consoleの経験はAI理解にどう役立ちましたか？
検索順位はAIだけでは決まらず、人間による改善や試行錯誤が重要だと実感しました。
Q10 本記事の結論は？
AIは人間に代わる存在ではなく、人間がより良い判断をするための「思考を整理するパートナー」と考えるのが現時点では最も現実的です。
〆最後に〆
以上、間違い・ご意見は
次のアドレスまでお願いします。
最近は全て返信出来てませんが
適時、返信して改定をします。
nowkouji226@gmail.com
また、この記事はChatGPT社のOpenAI
の情報を参考として作成しています。
【全体の纏め記事へ】
【テックジムまとめ】
