InfoQ Dev Summit Boston：AIハイプの時代において責任ある開発者であるために

原文リンク(2024-06-26)

ボストンで開催された InfoQ Dev Summit で、Akamai 社の Justin Sheehy氏は、人工知能（AI）ハイプの時代における責任ある開発者のあり方について、洞察に富んだ開会基調講演をした。今回の講演は、AI をめぐる急速な発展と膨らむ期待に圧倒されそうなソフトウェア従事者を対象としている。

Sheehy氏は講演の冒頭で、今の時代には開発者の選択が非常に重要であるとの再認識を促し、開発者が注意を払うべき3つの状況を強調した。それは、AIシステムについて学ぶとき、AIシステムを賢く安全に使うとき、そして悪影響を最小限に留めながら開発するときである。

私の講演では、みなさんにお伝えしたい点が大きく二つあります。ひとつは、開発者としての能力を活かし、ご自身の目でシステムへの見解を思慮深く見極めていただきたいということです。これは、AIの最大限の活用方法を（誇大表現ではなく）エビデンスに基づいた手法で判断するための呼びかけです。もうひとつは、システムにおける自らの職務責任を全うしていただきたいということです。業務を通じ、個として周囲を助け、正直であり、悪影響を及ぼさないようにしてください。 - Justin Sheehy氏

講演者であるSheehy氏は、開発者には影響力があり、テクノロジーの軌跡の形成に関わる決定を下すことができると力説した。しかし、大きな影響力には、大きな責任が伴う。10年以上前、テック業界アナリストのSteve O'Grady氏が以下のように語っていた。

続いて、Sheehy氏は自身で命名した「AIの時代」において、AI躍進の目覚ましさが、誇大表現に見劣りしてしまっているのは明らかだと強調した。彼は、Google社のGPT-4oやGemini1.5といった現行言語モデルについて、確かな証拠による裏付けがない限り、仰々しい主張に騙されないようにと出席者に呼びかけた。同氏はさらに、LLMメーカーは自社の法的責任にまつわる過失摘発が極めて迅速であると指摘した。

彼はまた、これらのモデルについて、人間のように知能を発達させる能力があったり、説得力のある人間の文章の模倣に基づくだけでチューリングテストに合格できたりするといったいくつかの誤解を否定した。Sheehy氏曰く、こうしたモデルは確率的反復のための装置であり、オウムが意味を解さずに音の真似をするのと同じようなものという。

講演者のSheehy氏は、Margaret Mitchell氏の広めた『バイアス・ロンダリング』の概念に対して警鐘を鳴らした。同概念によると、人々は学習段階で組み込まれた潜在的な偏りを考慮せずに、アルゴリズムが生成した回答が客観的な事実とみなされる傾向がある。こうした傾向のため、自社システムの偏った出力が原因で意図せずとも安全規制や権利の違反となった場合、企業が法的トラブルに巻き込まれる可能性がある。

Sheehy氏はさらに、「AIウォッシング」にも注意を促した。AIウォッシングでは、企業がマーケティングを主な目的として、自社製品には実際の機能向上ではなく、高度なAIシステムが搭載されていると喧伝するものだ。こうした行為は、AIの能力への過信から他の重要な業務のリソースが削られ、至極誤った決定を下すことにつながりかねない。

Sheehy氏は講演の締めとして、開発者自身にも適用可能と考える「整合したAI」のフレームワークを紹介した。このフレームワークの「3つのH」とは、手助け（helpful）、正直さ（honest）、無害性（harmless）である。これらの原則を守れば、開発者は潜在的な悪影響を最小限に抑えつつ、本当に社会の役に立つ技術を確実に生み出すことができる。Neuripsで発表されたLLMの創発的能力が幻想である可能性を述べた論文について質問されたところ、Sheehy氏は次のように答えた。

この論文からは素晴らしい発見がいくつか得られます。例えば、「眉唾ものの創発的能力は、異なる基準や優れた統計の前では、ないも同然である」であったり、「創発的能力は研究者の選択に成り立つ創作物かもしれない」などがあります。この論文では、こうした創発的な特性は測定に基づくため、人々が考えるよりも実現に時間がかかることを明らかにすべく、抜かりない研究が行われています。また、眉唾ものの創発的能力には、全くの虚構である別の（汎用AIを強く示唆することが多い）類があることにも触れておきたいと思います。そういった技術は、決して存在しません。にもかかわらず、大衆文化の中では、議論されることがよくあります。この二つを混同しないようご注意いただきたい。

InfoQ Dev Summitシリーズについてより詳細に知りたい開発者は、ウェブサイトをご覧ください。今後数か月の間に、InfoQで本サミット講演の録画が公開予定なのでこうご期待を。