AI へ多様性を追加することが不可欠な理由とは
数年前に盛大な盛り上がりを見せた、一度設定すればあとはお任せの掃除機ロボットを思い浮かべてみよう。あのロボットは、楽しい (そして便利な) 新商品であるだけでなく、AI において多様性が極めて重要であることを鮮明に示していた。
ある晩、韓国で掃除機ロボットが、床にマットを敷いて寝ていた女性の髪を吸い込む事件が起こった。ロボットに悪気はない。ロボットはプログラムされた通りに動作しただけだ。だが、問題はまさにそこにある。製品開発のプロセスでは、文化の違いによる影響は考慮されていなかった。「この製品を使用する人たち全員がベッドで寝るのだろうか？ ベッドを使わない人のために検討が必要な点とは何だろう？」と考える開発者はいなかったのだ。
AI (人工知能) の浸透が進むにつれ、家庭用のツール ロボットに限らず、開発を行うチームにおける多様性の確保が、これまで以上に重要となる。組織においては、民族性 (エスニシティ) や性別、年齢など、多様性の比較的分かりやすい側面に重点が置かれがちだ。だが、それでは文化や伝統、宗教など、多様性において非常に重要な要素の一部が見落とされてしまう。多様性の広がりの考慮が欠けていると、AI が支援を提供すべき集団に深刻な損害を与えるような影響を及ぼしかねない。
多様性の 3 つの側面
多様性は、3 つの側面で構成されている。それは、人の多様性、文化の多様性、そしてシステムの多様性だ。人の多様性とは、人種やエスニシティ、年齢など慣習的多様性の側面であり、人間の不変の要素を指す。文化の多様性には、その人を形成する上で重要な役割を果たしているが、変化する可能性のある要素が含まれる。例えば学習方法や考え方、仕事への取り組み方、宗教、倫理感、言語などだ。そしてシステムの多様性とは、システム、つまり教育やエンパワーメント (能力開花)、運用管理などのさまざまな体系が、どう相互作用を及ぼすのかを明確にするものだ。
こうした多様性の側面は、あらゆるビジネスに応用可能であり、特に AI には当てはまる。AI 開発のチームを整備する場合、システムの構築中に人や文化、システムの多様性の要素に見過ごしているものがないか検討することが、チームにとって極めて重要だ。問題は、チーム メンバー自身がこうした多様性の側面の代弁者でない限り、必要な問いを投げ掛ける人間の参加がほぼ不可能な点になる。 (ベッドではなく床に寝るなど) 自身の現実には存在しない要素は、思い付くことすらないだろう。それは忘れ去られる危険につながり、AI を用いて展開される段階になって、時間の経過と共により大きな問題となるのだ。
人間集団を無視することの悪影響
私は、人材獲得に取り組んでいたときに、AI の多様性とその影響について考え始めた。プロフィール ベースの求人サイトや求職サイトで検索したことがある人なら、学習知能の複合的な悪影響を体験しているだろう。
例えば、エンジニアの一般的な人材検索について考えてみよう。役職に必要な技術上の適性要件を入力するだけだと、検索結果には白人男性ばかりが表示される。ここで、適性要件はそのまま、「米国女性エンジニア学会} (Society of Woman Engineers) と入力すると、検索結果はどう変わるだろう？ 予想通り、最初の検索では出てこなかった女性が多数表示される。「米国女性エンジニア学会」をマイアミの「フロリダ国際大学」 (Florida International University) に変えてみると、今度は、検索結果にはラテンアメリカ系のエンジニアがたくさん返ってくる。これも最初の検索では表示されなかったものだ。
2 番目、3 番目の検索結果は当然として、注目すべきは最初のデフォルト、つまり標準の検索結果だ。AI システムは、既存の価値基準を打ち砕く体験を生み出すようにはデザインされていない。その定義上、シームレスな体験を生み出すことが目的なのだ。AI がユーザーに対して、「あなたはまだこれを試していません。気に入るという確証はありませんが、全く違うことを試してみてはどうでしょう」などと言うことはないのだ。
AI の場合、最初の検索でプロフィールを幾つか選択すると、それを学習し、同類のプロフィールや候補を繰り返し提示するようになる。この方式では、一定群の人間がシステマチックに排除される可能性がある。AI が考慮に入れるデータ セットに特定のグループが含まれていないと、結局はデータセットの外にある問題や課題は一切解決できないことも考えられる。
AI 以前の世界においては、歴史がそれを、公営住宅向け建築で実証している。米国内の各都市は、理想的とされるデザインをヨーロッパから習得し、公営住宅を幹線道路沿いなど、立地が悪く公共空間や緑地がほとんど無い場所に配置した。その好ましくない物理的環境が、時間の経過とともに、人間としての成長と発達に影響を与えることになる。そうした環境がヒップホップ文化を誕生させたとは言って、それ以外のさまざまなマイナスの影響は、プラスの影響を大きく上回る。AI が空間計画や建築の決定を自律的に行う世界を想像してみよう。日当たりが悪く公園も無いような場所で生活することのないよう、使用可能な空間や日照について、システムが考慮するよう保証できるだろうか？
多様性の確保の責任の多くが、AI システムを構築しているビジネスと、その開発チームを形成しているビジネス リーダーにのしかかる。
多様な AI クリエイターの必要性
議論の場に参加し、未来を形作る変化に影響を与える機会を得ることは重要だ。AI の場合、よりバラエティに富んだ意思決定者を取り込むには、ビジネスや教育機関、政府機関、その他の機関が手を取り合って協力することが必要となるだろう。
だが現在のところ、この問題に取り組む政府機関は存在しない。こうした倫理的配慮に取り組むべく、オープンソース グループの AI Now が作られている。AI の労働力への影響という文脈で、オバマ政権はこのトピックに関する白書 (英文 PDF) の作成を行った。トランプ政権で、どのような取り組みを行われるのかは未だ不透明だ。
それは、多様性の確保の責任の多くが、AI システムを構築しているビジネスと、その開発チームを形成しているビジネス リーダーにのしかかることを意味している。まず、開発チームの全員が同じような見える場合は、多様性があるとは言えないだろう。人種やエスニシティだけでなく、言語や国籍などの要素を考慮することが重要だ。アジアの開発途上国出身者の世界観は、例えばドイツ出身者のそれとは大きく異なるだろう。その両者が、異なってはいるが重要な問いを提起するだろう。そこからは、その他の属性を細分化し、AI による解決を目指す問題に対して適切なチームを特定することが重要だ。
多様性の議論は早くから始まっている。これは朗報だ。
また多様性について、以前とは異なる意識が存在するようになったことも心強い。20 年前とは異なり「多様性」の意味は理解されるようになった。これは、他の文化や世界観が考慮されるようになる上で重要な役割を果たす。つまるところ、AI の多様性は、だれもが関わりのあるグローバルな論点なのだ。
あらゆる要素を含む完全な AI システムの構築は、他国民の問題を解決する米国のビジネスのみならず、そうした国民が自分たちのために問題を解決できるようになるためにも重要だ。それは、そういった人々が同じ議論の場に参加することの重要性を強調している。彼ら自身が「AI ではこういったことを考慮してほしい」と声を上げなければ、それが実現することはない。
幸いにも、まだ問題を解決する十分な時間が残されている。つまり、戦略的な多様性への取り組みを通じて、より良い AI の未来を形成することは、まだ可能なのだ。