ＡＩとどう向き合うべきか

団地のベンチでくつろぐキジバト

ＩＣＣ（国際刑事裁判所）の赤根智子所長が米国の制裁を受けて、クレジットカードの使用停止や米国への入国禁止の処分が行われているそうですが、なんとアマゾンやグーグルのアカウントが停止されたそうです。銀行も含めてこれらは民間企業なのですが、政府の鶴の一声でストップされるとは驚きです。本部があるハーグの事務所は無事で、ＳＮＳによる発信もおこなわれており、オランダ政府もＩＣＣを断固支持すると表明しているので一安心です。

この件で私があらためて思ったのは、ＡＩもアメリカの企業なので、米国政府の意志でどうにでもなるのではないかということです。

グーグルのＡＩにバイアスのかかっていないＡＩはあるのかと訊いてみました。
答えは

（バイアスがなくなる理由というのは多分間違いで、「バイアスがなくならない理由」だと思います。おバカなＡＩです）

一番簡単なのは「反政府的なサイトが発信する情報は一切吸い上げない」というアルゴリズムです。そのためにはそのサイトを選別して一覧表をつくらなければなりません。そのために一番簡単な方法は、キーワードによる選別です。現行のＡＩでもそれはすでに行われていると私は確信しています。

有料の賢いＡＩは多分このようなことはやってなくて、もっと複雑なプロセスを経ていると思いますが、何らかの方法でバイアスはかけられていると思います。ウィキペディアと違ってプロセスは公開されていないので、企業秘密のブラックボックスです。

結論的にはＡＩは学術関係では非常に有用ですが（もちろん犯罪に利用されるような情報を提供すべきではないので、なんらかの制限はかかっているはず）、少しでも政治が絡んでくる場合は全く信用できないと思います。そればかりかＡＩによってすでに選挙における集団誘導が行われた形跡があります（１）。

１．こちら