サイトトップ | 書評

書評:鄭 雄一『東大教授が挑むAIに「善悪の判断」を教える方法:「人を殺してはいけない」は“いつも正しい”か?』(扶桑社新書)

更新:2018年5月30日

書誌情報

書評

土曜の日本人口学会理事会の帰りに,前著(鄭 雄一『東大理系教授が考える道徳のメカニズム』)の続編と思われる本が出ているのを見つけ,買ってきた。

「第四回講義」までは前作をリバイスした内容といえる。「人を殺してはいけない」とか「情けは人のためならず」というときの「人」が人類一般でなく「仲間」を指し,道徳とは仲間うちの約束事としての「仲間らしくしなさい」という掟であって,そこには「仲間に危害を加えない」という絶対的な掟と,「仲間と同じように考え行動する」という相対的な掟が含まれ,絶対的な掟は古今東西ほぼあらゆる人類集団に共通しているけれども,相対的な掟は集団ごとに違っている,という整理の仕方は実にクリアでわかりやすい(ここで人類集団と書いた点も実は重要で,サイコパスで無差別殺人する人のように,絶対的掟を平然と無視する個人はごく稀に存在するし,その時にその人を――俗に人非人という言葉があるが,その通り,如何に非道なことをしても生物学的には人に違いない――どう扱うべきかというのは,また別の社会的合意を要する話である)。

理系の父親が子供の素朴な疑問に答えて語りかける体裁の前著は小学校の,講義形式の本作は中学の道徳の教科書にしたらいい。鄭君は仮説構築段階で宗教や老荘からアリストテレス,カント,デカルト,アダム・スミスなど定番を経て,ロールズやマイケル・サンデルに至るまで,古今東西の思想をバサッと粗視化しているのだが,それが妥当なのかどうかを検討させるなどすれば,高校でも教科書として使えそうだ。

(鄭君はそうは書いていないが)たぶんカルトとは相対的な掟を絶対的な掟より重視する状態で,オウム真理教の信者がサリンをばらまいてしまったことが典型的だが,最近でもそういう風に考えると理解できる異常事態が多々あるような気がする。しかも仲間の範囲は常に変化するし(そもそも明確なボーダーが引けるとは限らないし),「ここまでが仲間」という主観が一致しないこともある。そこを意識しないと悲劇が生まれる。スポーツの試合は敵味方というけれども,試合中は敵である相手チームも含めてゲームを成立させるための共同作業をする仲間であるはずで,「勝つためには何をしてもいい」という相対的な掟を,「仲間に危害を加えない」という絶対的な掟より優先させてはいけないのは当然で,それを破ってしまっては試合など成立しない。リーグから除名という声が出るのは当然だろう(注:この記述は,2018年5月現在,連日のようにメディアで取り上げられている,日大アメフト部の衝撃的な反則の件を想定している)。鄭君の道徳本に書かれていることが,成人するまでに身につけなければいけないリテラシーとして広まってくれると,カルトや異常な集団の出現は防げると思う。

ここでちょっと書評の範囲から逸脱することをお許しいただきたい。国際保健のrationalは,人類全体が仲間であるという点に立脚しているので,上で書いたようなことを踏まえると,問題の難しさがわかる。例えば,世界のどこかに西洋的病因論を信じず,具合が悪くなったときに呪術師による儀式で対処している集団があるとしよう。この集団で致命割合の高い感染症が発生し,しかもそれを鳥が媒介するため,パンデミックのリスクを否定できないという状況に陥ったとき,WHOは当然IHRに基づいて対策を始めるし,欧米の研究グループが現地に入るはずだ。このとき現地に入る医療チームや研究チームは,現地の人の協力を求めるわけだが,このとき,例えば「時間を守って欲しい」というようなことは相対的な掟だから強要できないということは,大抵の医療者や研究者もわかっているので,仕方ないなあと思いつつ受け入れて行動する。しかし,「感染した人に鳥が近づかないようにしなくてはいけない」というのは,感染防御であって「仲間に危害を加えない」絶対的掟だから,話せばわかってもらえるはず,と考えがちだ。ところが,例えば,呪術の儀礼として,具合の悪い状態の原因である悪い精霊を生きた鳥に移して治癒を図るというものがあったとすると,現地の人々にとっては,生きた鳥を近づけることを阻むこと自体が「仲間に危害を加えない」絶対的掟に反することになってしまい,正面衝突が起こってしまう。外部から入ったチームの人々は,何度言ってもわかって貰えない,と無力感を感じることになるが,現地の人々は絶対的掟を守ってくれないのではなく,世界観が違うゆえ,「仲間に危害を加えない」ための行為が真逆になってしまうということが原因だから,正攻法では合意に至れない。その悲劇を防ぐためには,現地の人々が信じる世界観や病因論を学んで,その説明原理を使って,生きた鳥を患者に近づけないのが当然だと思って貰えるような説得をするか,長い時間がかかっても科学的な病因論を現地の人々に教えて理解して貰い,感染拡大を防ぐために患者に鳥を近づけないようにすることを納得して貰うか,どちらかしかないだろう。しかも,後者の戦略をとった場合,(もしかしたらそれまで紛争解決や環境保全に寄与していたかもしれない)呪術師の権威は失墜するので,大きな社会変動が起こるかもしれない。そのとき,医療チームや研究チームは責任取れるのだろうか,というと,たぶん無理だろう。国際保健で一番難しいのは,テクニカルな部分ではなくてこういうところと思う。

さて本書の書評に戻ろう。

本書がさらに凄いのは,二つの掟の統合に挑んでいる「第五回講義」からである。ここで鄭君は,一般に道徳とは真逆と思われている「欲」によって道徳を整理することを試みる。「欲」について有名な先行研究であるマズローの欲求の5段階説が,MECE(Mutually Exclusive, Collectively Exhaustiveのacronymで,「重複無く,漏れなく」という意味)になっていないからと改良版を提案し,欲求と道徳と仲間の範囲をつなぐことで道徳に可観測性を与え,そのことによって道徳アルゴリズムをロボットのAIに実装する可能性を示した展開はディテールも含めて興奮した。

新井紀子さんが『AI vs 教科書の読めない子供たち』で問題提起している,現在の技術ではヒトの認識のすべてを論理,統計,確率のどれかに還元することはできない,という限界ゆえ,実際に稼働させられるかどうかはわからないなあ,と思いながら読んでいたら,レポーティング・バイアスを避けるために音声から感情を判定することができる,「心の寛容性・多様性測定器」がスマホアプリとしてある程度まで実装されつつあると書かれていた。ある意味恐ろしさも感じるが(というのは,寛容性が足りないのかもしれないが),確かにそれができればロジックとしては道徳エンジンを積んだAIも実現可能かもしれないと思った。もっとも,現実世界を把握するための問いが言語化されにくい場合にどうするかは不明だが,それはまた別の研究になるのだろう。

残念なのは新書ゆえか,または論文として未発表なのか,方法のディテールが書かれていないところで,もし既発表ならば引用文献も上げて欲しかった。かなりの部分がオリジナルな粗視化や仮説であることと,引用元が有名な哲学者や思想家の複数の著作だったりするため,そこを丁寧に書くと新書の長さを超えてしまうと思うが,何らかの形で文献リストを示して欲しかった(さっきも書いたが,高校生以上だったら,それを自分でやるのも良いトレーニングになるかもしれないが,リストがあった方が便利だ)。

本書の立論の中で,方法のディテールが知りたかったのは,例えば,150ページで触れられている、道徳次元を測る17項目の質問票である。17項目全部とはいわず一部でも良いので,内容を示して欲しかった(既に論文になっているならその書誌情報,どこかで公開されているならばURLでも良いので)。参考文献として挙げられている堀洋道[監修]のサイエンス社から出ている『心理測定尺度集』から改変して作ったのだろうとは推察できるが,やはり具体的な項目を知りたかった。

もっとも,180ページの記述によればスマホアプリに「実装できる状態になっている」……ということは未実装なので,特許とか考えたら未発表であろうから,実装されて公開されるのを待てばよいのかもしれないが。

世の中の大多数の人が,2冊のどちらでも良いので鄭君の道徳本を読んでくれたらいいのに,と思う。

【2018年5月30日,2018年5月14日の鵯記2018年5月23日の鵯記2018年5月27日の鵯記より採録し再構成】


リンクと引用について