アルゴリズムの時代

こんにちは

hikarum

です。

普段、海外ミステリー、海外SF

サイエンス系、人文系の教養書読みます。

本の紹介

サイエンス系です。2021年、冬に読みました。

この本は

実例をあげながら、

アルゴリズムの課題と改善点が書いてあります。

アルゴリズムとは…

たとえばカーナビや乗り換え案内。

 

中心となるのは、A地点からB地点まで行く方法が何パターンかあった場合、どの経路を通るのがいちばん早いか？を計算してくれるアルゴリズムです。

です。

この本の、答えとしては、究極的には、あらゆる道具類と同じで

使い手（人間）

次第ということです。

ただ、やはり、フィジカルな道具ではなく、コンピューターのシステムなので、一般的人からみて良い悪いはなかなか判別しにくいのと、アルゴリズムの元データを企業に公開されること自体が難しいようです。

自動運転、裁判、手術の例などからわかるようにアルゴリズムに100%頼るというより

人間の補助をさせるのがベストアンサーだと読んでいて感じます。

加えて、アルゴリズムを使う前提条件として、偏ったデータを入力しないことは重要です。　

ただ、本でも述べられていたような事象

黒人男性が犯罪を犯しやすい

…事実として、黒人の方が、差別にさらされ、所得が低く、犯罪に走り易いという

バイアスがかかります。　

→数としてデータにあげられる

事実ではあるが、そのバイアスがかかったデータをそのまま使うか、修正して使うか、

システム設計による所が大きいですが、

重ねて言いますが、稼働してしまったシステムを一般人からみて、良い悪いと精査するのは非常に難しいし、そもそも情報開示すら難しいかもしれません。

あと衝撃的なのは、（完全）自動運転について

"トロッコ問題"というらしいですが、以下です。

何年か先の未来、あなたが乗った自動運転車は、通りを快適に走っている。そのとき、前方の信号が赤に変わった。ところが、車が故障して、ブレーキがかからない。

 

もはや衝突事故は避けられないが、自動運転車には選択肢がふたつある。道からそれてコンクリートの塀に突っ込んで、あなたを死に至らしめるか、あるいは、そのまま直進して、あなたの命を救い、その代わりに、道を渡ろうとしている歩行者を轢き殺すか。

 

アルゴリズムはどうシステムを構築するのが最適か？自分か？歩行者か？

 

その場合、罪があるのは、車のメーカー？アルゴリズムを作った会社？運転手？

 

と、いうふうに、完全な自動運転はかなり難しいようです。

とはいえ、

AIやアルゴリズムは今後あらゆる領域で使われるでしょう。

その意味でも、こう言った本でその実例を想像したり、検証したりすることは非常に大事だと思います。

上記以外にも具体例はまだまだ書いてあります。非常に面白いので、気になる方はググってみて下さい！

アマゾンで買い物をすると、「これもおすすめ」される。

新車を探そうと検索すると、車と保険の広告がやけに出てくるようになる。

なんだか変な道だな、と思ってもカーナビの言う通りに運転する。

私たちはその程度のことにはもはや慣れっこになっている。

人の意思決定は少しずつ少しずつ、機械に任されるようになっている。

 

だが、その機械の実体「アルゴリズム」について、私たちはどれだけ知っているだろうか？　それらはどんなプログラムで、どんな狙いで、実際何をしているのか？

 

数学者であり、コンピュータオタクの著者は本書で、アルゴリズムの正体に迫っていく。司法、医療、自動運転、犯罪予測、芸術……。人間が判断するしかないと思っていた様々な局面で、アルゴリズムが驚くほど大きな役割を果たしていることを、あなたは具体的に知っていただろうか？

そして一方でそれが信じられないようなミスも犯すことを知っていただろうか？

 

アイダホ州の「予算管理ツール」はずさんな計算で、障害者助成金を無闇にカットしてしまった。

過去のデータから再犯を予測するアルゴリズムは、いつの間にか黒人の有罪率を高くするようになっていった。

疲れ知らずで画像診断をこなし腫瘍を発見できるアルゴリズムは、正常な細胞までがん細胞と言い立てるようになった。

あまりに便利な自動運転はドライバーの集中力を失わせ、いざ危険が迫って運転手が対応するしかなくなったときに判断を遅らせる。

膨大なデータベースから犯罪者を見つけ出せるアルゴリズムのせいで、テロ組織と似た名前の学会に属していた建築家は10年もアメリカに帰国できなくなった。

 

アルゴリズムは、思ったよりもずっと凄いことをやっている。だが、思ったほど万能なわけでもない。

必要なのは、それに何ができて何ができないかを知り、人間がアルゴリズムのどこを補い、どうやってつきあっていけばいいかを知ることだ。

本書を読めば、間違いなくその第一歩を踏み出せるはず。機械とデータの社会を生きていくための必読の書！

 

（文藝春秋より）