より多くの意思決定が機械によってなされたり、影響を受けたりするようになるにつれ、人工知能の倫理規範の必要性が高まっている。主な疑問は、"作ることはできるが、作るべきか？"である。説明可能なAIは、公平性と説明可能性のチェックとバランスを提供でき、エンジニアはシステムが人々の生活や精神衛生に与える影響を分析ができる。
Kesha Williams氏はNDCオスロ2023で、倫理的機械学習について語った。
機械学習以前の世界では、人間が雇用、広告、融資、刑事判決などの意思決定を行っており、これらの意思決定には、公正、透明性、公平性に関する意思決定プロセスを規制する法律が適用されることが多かったとウィリアムズ氏は述べた。しかし現在では、機械がこれらの意思決定の多くを行うか、大きな影響を及ぼしている。
機械は人間の意思決定を模倣し、強化することができるだけでなく、人間の偏見を増幅させることもできるため、倫理規定が必要なのだ、とWilliams氏は言う。
倫理的なAIについて議論するとき、公平性、透明性、責任、人権といったいくつかの言葉を耳にするとWilliams氏は述べた。全体的な目標は、偏見を永続させないこと、潜在的な結果を考慮すること、悪影響を軽減することである。
Williams氏によれば、倫理的なAIは1つの質問に集約される。
作ることはできるが、作るべきか？そして、もし作るのであれば、AIの対象となる人物を守るためにどのようなガードレールがあるのだろうか？
これがAIにおける倫理の核心だとWilliams氏は言う。
Williams氏によれば、倫理とリスクは説明可能なAIを使って組み込むことができ、モデルがどのように判断を下すかを理解するのに役立つという。
説明可能なAIは、機械学習のライフサイクルの各段階（問題の形成、データセットの構築、アルゴリズムの選択、トレーニング、テスト、デプロイメント、モニタリング、フィードバック）において、公平性と説明可能性のためのチェックとバランスを組み込もうとしている。
私たちはエンジニアとして、自分たちが開発しているAI/MLシステムを道徳的・倫理的観点から見る義務がある、とWilliams氏は言う。幅広い社会的影響を考えると、これらのシステムを無闇に実装することはもはや許されない。
エンジニアとして、まずこれらのシステムが人々の生活や精神衛生に与える影響を分析し、機械学習のライフサイクルのあらゆる段階でバイアスのチェックとバランスを組み込まなければならない、とWilliams氏は締めくくった。
InfoQはKesha Williams氏に倫理的な機械学習についてインタビューした。
InfoQ: 機械学習は従来のソフトウェア開発とどう違うのか？
Kesha Williams氏: 従来のソフトウェア開発では、開発者はJava、C#、JavaScript、Pythonなどのプログラミング言語を使い、機械に何をすべきかを一行一行指示するコードを書きます。ソフトウェアはデータを吐き出し、我々はそれを使って問題を解決します。
機械学習が従来のソフトウェア開発と異なる点は、まずデータを機械に与え、機械が我々が解決すべき問題を解決するためのコード（つまりモデル）を書くという点です。データから始めるというのは全く逆で、とても素晴らしいです！
InfoQ: AIにおけるバイアスはどのように表面化するのか？
Williams氏: バイアスがデータに現れるのは、データセットのバランスが悪かったり、モデルが展開される環境を正確に表していない場合です。
バイアスは、MLアルゴリズム自体によってもたらされることもあります。バランスの取れたトレーニング・データセットであっても、結果は他のデータに比べて特定のサブセットを好むかもしれません。
バイアスとは、ドリフトのことです。ドリフトは、ターゲット変数と他の変数との関係が時間とともに変化し、モデルの予測力を低下させることを示します。
バイアスは、人材、戦略、モデルの予測に基づいて取られる行動にも現れる可能性があります。
InfoQ: バイアスを軽減するためにはどうすればいいのか？
Williams氏: バイアスを軽減する方法はいくつかあります。
- 機械学習が、解決しようとしている問題に対する倫理的なソリューションであることを確認する
- データセットが、モデルが使用される環境を表していることを確認する
- データセットの特徴間の相関関係を理解し、バイアスを軽減するためにデータセットを修正する必要があるかどうかを判断する
- データセットに最適なアルゴリズムを選択したことを確認する
- 関連する公平性メトリクスを使用して学習済みモデルを評価する
- 実稼働中のモデルのドリフトを監視し、フィードバックループを提供する