以前からAI（人工知能）には無限の可能性を感じる一方、不安を覚える人たちもいることは紹介してきた。特に、欧州各国政府の反応は厳しい。「デジタルナチスが、AIを使って市民の生死を判断するようになったらどうするんだ！」との声も理解できなくはない。しかし過度に規制することは、経済発展の妨げになるし市民の幸福をも阻害すると、僕は思う。
欧州AIパッケージの登場 - Cyber NINJA、只今参上 (hatenablog.com)
で紹介したように、AIの判断について「説明責任」を求めるという声が強い。しかし技術屋視点では「ブラックボックスだし、判断の速さが特徴。いちいち判断根拠に遡っていたら、メリットが消える」と思ってしまう。
外国語に堪能な識者の中には「Accountabilityを説明責任と訳しては、ニュアンスが正しく伝えられない。翻訳せずにAccountabilityということばのまま議論すべきだ」という人もいる。なんとなく理解はできるが、厳密なニュアンスの違いは僕にも「説明」できない。
AI時代の子供たちへ - Cyber NINJA、只今参上 (hatenablog.com)
で紹介した、NHKの囲碁番組。今年からは、AIの形成判断による勝率表示に加え、次の一手を３種類表示してくれるようになった。「13ー八」などと出てくるが、碁盤の目を数えているうちに着手されてしまうので、慣れないとうまく使えない。
ただAIが一押ししたのと違う着手をすると、勝率が動く傾向にある。これを人間の解説者が「AIは、三子を捨てて外勢を張ることを有利と見ていましたね。三子を逃げ出したので勝率が下がりました」などと解説してくれる。そうか、この程度の「説明」は確かに必要だな、と感じた。これが欧州委員会の求めるAccountabilityそのものではないにしても･･･。
一方、もうひとつ「AIのAccountability」に関して気になるニュースがあった。
メルペイ後払い 限度額が突然「100円」に？ 背景にAI与信の判断あり（山口健太） - 個人 - Yahoo!ニュース
メルカリが運営する決済システム「メルペイ」で、個人の与信方法が変わってしまったという件。これまで20万円あった与信限度額が、10円（！）になってしまった人もいるらしい。
＜続く＞
