Morality mod Science

本研究プロジェクトについて

近年，心理学，進化生物学，人類学，神経生理学，認知科学などの分野で「道徳性」に関する様々な新しい知見が得られています．一方，ロボット工学や人工知能の分野では，機械に「道徳的」な振る舞いをさせようという研究が行われており，「機械倫理」，「人工道徳」などと呼ばれています．20世紀，自然科学と人工知能の発展によって「知能とは何か」という古くからの問題に新しい光が投げかけられたように，21世紀にはこれらの発展によって「道徳とは何か」という問題に新しい光が投げかけられるでしょう．私たちは科学に基づいて道徳性についてのより良い理解を得ることができるでしょう．しかしながら道徳性についてはまだまだ科学で割り切れない部分もあります．そもそも私たちが「道徳性」ということで何を指しているのかも，必ずしも明らかではありません．そこで私たちは道徳性のうち，科学によって説明されていない部分は何か，そしてその部分はどのように扱うのが適切なのかを考える学際的な研究プロジェクト，「Morality mod Science」を始めました（「x mod y」は「xをyで割った余り」を意味します）．「道徳は究極的には科学に還元できる」あるいは「道徳は決して科学では説明しきれない」と前もって断じるのではなく，あくまでも科学の現状に即して道徳性についてより良い理解を得るのが主眼です．

Morality mod Scienceセミナーシリーズ

本研究プロジェクトの一環として，様々な分野の専門家をお招きして道徳に関連する最新の研究をご紹介いただくセミナーシリーズを開催しています．

第7回

日時：2018年10月19日（金）15時 - 18時　
会場：名古屋大学　東山キャンパス　情報学部・全学教育棟南棟4階　 SIS3講義室（キャンパスマップ，アクセス）
プログラム：
- 15:00 - 16:30　「社会にとって『良い』意味を持つ人工物は設計できるか？」関口海良（東京大学大学院工学系研究科）
- 16:30 - 18:00　「AIに搭載するべき道徳エンジンについて」鄭雄一（東京大学大学院工学系研究科・医学系研究科）
講演要旨
- 関口海良「社会にとって『良い』意味を持つ人工物は設計できるか？」
  新しい人工物が創造される度に社会は変化してきた。その変化は学問として、環境倫理や情報倫理など応用倫理の対象となってきた。では逆に、社会にとって良い意味を持つ人工物をそれら変化から逆算して設計することは可能だろうか？筆者らはこれを可能と考え、設計における視点の持ち方や、アイデアの記述方法を体系化してきた。基本的には工学で良く知られた考え方に基づいており、人工物を階層的に捉える視点や、設計によって生み出す変化の連関を記述する方法を再定義した。さらに、これらを用いた設計のアイデアを蓄積し、流通、進化させるための支援ツールを開発した。この様な方法論と、設計を実践する中で分かってきたことは、そこでは工学や理学だけでなく、人文学や社会科学の役割が重要になることである。本日はこれら取り組みについて紹介すると共に、工学、理学、人文学、社会科学の全てが、言わば倫理的な設計という視点からひとつの有機的な体系として再構築される可能性についても論じたい。
- 鄭雄一「AIに搭載するべき道徳エンジンについて」
  通信・交通手段の急速な発達により世界が相対的に縮小しているといわれ、グローバリゼーションと多分野融合の時代が高らかに喧伝されているが、その基礎となるはずの世界全体に共通する道徳性についての合意は得られていない。このような状況の下、我々は、人間の道徳性の統一モデルを提供しようと意図した。第一に、道徳に関して分断した見方を引き起こし、多様性との重大な摩擦を生じさせている、我々が直面する３つの道徳の問題点を同定する。第二に、これまでの道徳に関する代表的思想を、粗視化によって二つのカテゴリー「社会中心の考え」と「個人中心の考え」に分類し、その２つの思想の限界点について述べる。第三に、前述の分類を踏まえ、できる限り明晰なことばを通じて、人間の道徳性の統一モデルを構築する。第四に、他の動物と比較した際の、人間の道徳性の独自性について洞察する。第五に、人間の道徳性と人間の言葉の関係性を調査し、人間の独自性が、人間の言葉が可能にするバーチャルな面識によるものであることであることを指摘する。第六に、人間の道徳性のメカニズム理解に基づいて、人間の道徳性と多様性をどのように両立させるかについて提言する。第七に、道徳性の計測を行うために、道徳を禁止命令としてではなく、欲と対応付ける新たな分類方法を提案する。第八に、この分類方法に基づいて、道徳性を計測するための基本原理について提案し、AIおよびロボットに搭載するべき道徳エンジンの基本設計について述べ、人間との関係性と影響について考察する。

第6回

日時：2018年9月21日（金）13:00 - 16:00
会場：名古屋大学情報学研究科棟1階第1講義室（キャンパスマップ，アクセス）
プログラム：
- 13:00 - 14:30　「社会生物学と倫理学（仮）」児玉聡（京都大学大学院文学研究科）
- 14:30 - 16:00　"Common Sense Morality for Machines" Rafal Rzepka （北海道大学大学院情報科学研究科）
  （Rzepka 先生の講演は英語スライドを用いて日本語で行われます）
講演要旨
- 児玉聡「社会生物学と倫理学」
  今さらだが、『社会生物学』(1975)や『人間の本性』(1978)などにおけるE.O.ウィルソンの議論を中心に、社会生物学が倫理学に対して持つ含意について考えてみたい。最初に、社会生物学の概要について述べたあと、社会生物学論争を瞥見する。そのうえで、社会生物学の倫理的な含意について、ピーター・シンガーの論考(“The Expanding Circle” 1981, ‘Ethics and Sociobiology’ 1982, ‘Ethics and Intuition’ 2005)などを参照しつつ考察する。暫定的な結論としては、(1)社会生物学で言われていた「利他性」という言葉は多義的であるため、とくに倫理学における正義と善行の伝統的な区別を踏まえて、さらに分析する必要があること、また、(2)社会生物学およびその後の進化心理学は倫理学における直観と理性の役割について再考を迫っているため、この視点で研究を進める必要があること、を指摘する。
- Rafal Rzepka, "Common Sense Morality for Machines - Are Our Shared Experiences the Only Solution for Safe Artificial Intelligence?"
  The 21st century has already brought and will most certainly bring us new technologies which can impact our lives in various aspects. Differently from the Industrial Revolution, AI-related innovations are relieving us also of intellectual burden, which makes many of us feel becoming redundant. Although there is no sign of conscious machines with general intelligence yet, science-fiction and media create an image of scary super intelligent machines which are going to enslave humanity. But is it the most urgent problem we should worry about? What about solutions we are already using as voice assistants? In my talk I will discuss the current state of the field of Artificial Intelligence and introduce my approach to automatic moral decision-making based on the Wisdom of Crowds. I will explain my stance that the shared knowledge is at least equally important as algorithms which utilize it and how, after un-biasing, it might be a powerful solution for safe autonomous agents (examples from scenarios involving robot companion will be given). Machine ethics researchers tend to concentrate on live and death dilemmas, while questions of simple providing goods to children and elderly or revealing or hiding truth from users are rarely considered by AI software developers. With my talk I plan to spark an interdisciplinary discussion about how we should create rules for an agent’s moral behavior and what decisions should or should not be mechanized. The talk will be given in Japanese language with slides in English.

第5回

日時：2017年12月3日（日）10:00 - 13:00
会場：名古屋大学情報科学研究科棟1階第1講義室（キャンパスマップ，アクセス）
プログラム：
- 10:00 - 11:30　「モラルの進化的起源 -動物の利他行動と公平感・他者評価に着目して-」瀧本彩加（北海道大学文学研究科）
- 11:30 - 13:00　「発達早期の道徳・向社会性」鹿子木康弘（NTTコミュニケーション科学基礎研究所 / 日本学術振興会）
講演要旨
- 瀧本彩加「モラルの進化的起源 -動物の利他行動と公平感・他者評価に着目して-」
  ヒトは困っている人を見かけるとつい手を差し伸べたくなる。そうした利他行動は幼いころから見られ、血縁のない人や見知らぬ人に対して発揮されることもある。しかし、利他者が一方的に他者を助けてばかりいては、他者を助けることで被る損失が埋め合わされず、利他行動が進化することはない。利他行動が進化するには、利他者が助けた相手から直接的に、あるいは助けた場面を見聞きした第三者から間接的に、何らかの見返りを得て損失を埋め合わさなければならない。この互恵的利他行動を支え、利他者を防衛するシステムとして機能した1つが社会的感情であると考えられている（e.g., Trivers, 1985）。つまり、裏切り者検知や裏切り者に対する処罰・裏切りの防止に、公平感や感謝・後悔・罪悪感などの高次感情が役立ったのではないかというわけである。本講演では、まず、それらの高次感情の中でも公平感に着目し、動物の利他行動と公平感・公平感に基づく他者評価に関する比較認知科学的研究の最新成果を紹介する。次に、公平感やそれに基づく他者評価が利他行動の進化に果たした役割を考察する。最後に、公平感がモラルの維持に果たしうる役割について言及しつつ、モラルの進化的起源に迫ってみたい。
- 鹿子木康弘「発達早期の道徳・向社会性」
  従来の発達科学では、道徳や向社会性は、幼児や児童を対象に、教育によって培われるものであると考えられてきた(cf. コールバーグ)。しかし、近年の発達科学の知見により、発達早期の教育や経験によらない道徳・向社会性が明らかにされることによって、道徳や向社会性は生得的な形質であるとの見方が主流になりつつある(cf. トマセロ，ハムリン)。
  
  本発表では、近年の当該分野の起爆剤となった研究だけでなく、発表者が行ってきた前言語期乳児の同情心(Kanakogi et al., 2013, PLoS One)、正義感(Kanakogi et al., 2017, Nature Human Behaviour)を扱った実証的研究を紹介する。また、そのような発達早期の道徳・向社会性の生起過程・発達プロセスについても試論を展開し、現在までに明らかにされている発達早期の道徳・向社会性の全貌を浮き彫りにするとともに、今後の方向性について参加者と議論したい。

第4回

日時：2017年10月19日（木）13:00-16:00 （10:00 - 12：00に様相論理の基礎について予備的なレクチャーがあります）
会場：名古屋大学情報科学研究科棟1階第1講（キャンパスマップ，アクセス）
プログラム：
- 10:00 - 12:00　「様相論理入門」久木田水生（名古屋大学情報科学研究科）→ 配布資料
- 13:00 - 14:30　「義務論理と倫理学」村上祐子（東北大学文学研究科）
- 14:30 - 16:00　「記号創発ロボティクスから人工知能の社会性に向けて　～ボトムアップな道徳や規範へのとても遠い道程に思いを馳せる～」谷口忠大（立命館大学情報理工学部）
講演要旨
- 村上祐子「義務論理と倫理学」
  人工知能の倫理は萌芽的であるがゆえにとらえどころがないとはいえ、義務論理は倫理的人工知能の実現に向けて有力視される理論の一つである．とくに人工知能の倫理の文脈で重要な問題が、二つある．まず，「人工知能が道徳的であるべきだ」といった種の規定が有意味になる条件はどういったものなのか，もし有意味であるとすればそれぞれの理論ではどのように根拠や条件を表現することになるのか．そして、もう一つの「道徳的信念の可否は真偽判定可能なのか」という問題は、道徳的人工知能の設計に方向性を与える根源的枠組みであるけれども、倫理学における伝統的問題である．
  
  義務論理や行為論理の背景をなす倫理学理論はどういったものなのだろうか？論理体系が文脈に依存しないという古典的な論理観からすれば、義務論理で導出可能な文は文脈に依存しないことになり、義務論理のパラドクスに現れるような文脈に依存しない義務が存在するという点はむしろカント的な義務論に近いものと考えられる．一方で、利得関数をモデルに加えるタイプの義務論理では、むろん功利主義をとっていることになる．共通して前提としているのは、言語行為を表現する文を（拡大された形式言語の）論理式で表現可能であり、真理値が付与でき、しかも計算可能であるという考え方、さらにメタ倫理の観点では義務は言語行為の一種であるという（特定のバージョンの）非認知主義をとっている．義務論理の精緻化および数理モデルの統合を進めるうえでは、これらのような背景理論の整合性を検証する必要があるだろう．
- 谷口忠大「記号創発ロボティクスから人工知能の社会性に向けて　～ボトムアップな道徳や規範へのとても遠い道程に思いを馳せる～」
  記号創発ロボティクスは記号接地問題を乗り越え人工知能に自らの身体的経験，社会的経験を経て創発的に言語理解を形成させるための学術的アプローチである．主体にとっての記号の意味はトップダウンに静的な存在として規定するのみでは不十分であり，記号創発システムという複雑系の中でのダイナミクスとして動的に捉える必要がある．本講演では記号創発ロボティクスが前提とする記号創発システム論について概説した後に，最近の記号創発ロボティクスに関する話題に言及しする．その後に，論理の学習，また，道徳や規範の接地に関して，それをボトムアップな視点で論じる必要性と難しさに関して，試論を述べる．

第3回

日時：2017年5月28日（日）15:00-18:00
会場：名古屋大学情報科学研究科棟1階第1講（キャンパスマップ，アクセス）
プログラム：
- 15:00 - 16:30　『つぶやきの中のモラル：分断と道徳の計算社会科学』笹原和俊（名古屋大学大学院情報学研究科，JSTさきがけ）
- 16:30 - 18:00　『「セーギの味方」を引き受けるか？ ― 分配と共感性をめぐって』亀田達也（東京大学大学院人文社会系研究科）
講演要旨
- 笹原和俊『つぶやきの中のモラル：分断と道徳の計算社会科学』
  米国ではリベラルと保守の二極化が進行し、イデオロギーの対立や社会的分断の問題が深刻化している。そして、集合知のツールとなるべきソーシャルメディアが、エコーチェンバーやフェイクニュースといった負の副産物を生み出し、このプロセスに加担しているという側面がある。このような情報化社会の分断と道徳の問題を計算社会科学の観点から議論する。まず、イデオロギーの二極化や社会的分断が生じている事例や証拠をソーシャル・ビッグデータ研究から紹介し、エージェント・ベース・モデルを用いてイデオロギーの二極化と社会的分断の共進化ダイナミクスをシミュレーションによって示す (Sasahara et al. in prep.)。次に、イデオロギーの対立や社会的分断を道徳基盤（ケア、公正、忠誠、権威、神聖など）のマトリックスによって説明するジョナサン・ハイトの道徳基盤理論を概説し、ソーシャルデータ分析やオンライン行動実験によってこれを検討した先行研究（Dehghani et al. 2016）や日常的なツイートにおける道徳基盤の機能や関係性を調べた我々の研究（Kaur and Sasahara 2016）を紹介する。最後に、計算社会科学のアプローチによる今後の道徳研究の展望について述べる。
- 亀田達也『「セーギの味方」を引き受けるか？ ― 分配と共感性をめぐって』
  世界は「脱真実」(post-truth)の時代に入ったと言う。大方の予想をくつがえしトランプ氏が選出された2016年の米大統領選では、政敵や移民・外国についての攻撃的な発言が、リベラルやエリートへの反発のなかで人々の感情や信念に訴え、客観的な事実を無視した脱真実としてインターネットで増幅した。筆者にとって、モラルをめぐる社会の部族的な分断が、（よく知っていると思い込んでいた）「あのアメリカ」で、これほど大きなスケールで噴出したことは強い衝撃だった。そのような脱真実の時代に声高に「セーギ」を論じることには幾重にも緊張と含羞を伴う。本講演では、それでも人文社会科学が「正義の味方」を論じねばならないことの意味を、筆者の専門とする実験社会科学(experimental social science)の観点から考えてみたい。講演では、20世紀の「正義論」を席巻したジョン・ロールズの規範的な（「～べき」の）議論を参照点としながら、「いかに分けるか」に関わる分配の正義(distributive justice)を中心に、私達の素朴な正義感覚や共感が社会的な意思決定場面でどのように働くのか、さまざまな行動・認知・神経科学実験から得られた事実（「～である」）に立脚して論じたい。

第2回

日時：2017年2月19日（日）10:00-13:00
会場：名古屋大学情報文化学部・全学教育棟SIS4教室（キャンパスマップ，アクセス）
プログラム：
- 10:00 - 11:30　「社会心理学分野における道徳研究の動向」唐沢穣（名古屋大学環境学研究科）
- 11:30 - 13:00　「道徳判断のメカニズムから学ぶべきことは何だろうか」太田紘史（新潟大学人文学部）
講演要旨
- 唐沢穣「社会心理学分野における道徳研究の動向」
  過去10年間ほどの短期間に、道徳に関わる社会心理学的研究は爆発的な増加を示してきた。この「流行」とも言える潮流の特徴的な点をいくつか取り上げ、その成果と意義について議論する。第一の特徴は、道徳判断がもつ直観性への関心である。他の分野と同様心理学においても、道徳を人間の理性的側面の象徴として捉える観点が長らく支配的で、知的能力の発達に伴って道徳性も成長するものと伝統的には考えられていた。しかし近年の研究では、ハイトらの道徳基盤理論などに特徴的に見られるように、多くの認知資源を投入しなくても行われる比較的「浅く」「速い」情報処理過程でなされていると考えられる道徳的直観の役割が重要視されている。第二に、道徳判断の内容における通文化性と文化特殊性への関心が挙げられる。文化を超えた普遍的な道徳観・倫理観の内容については適応論的観点が、個別文化に固有な道徳認知の様相については、文化心理学だけでなく政治心理学などの分野における発展が影響を及ぼしている。第三に、社会的認知においては、行為に関する道徳性判断よりも行為者の人格的評価の方がむしろ重要な意味を持つという観点から、属人的道徳判断に関する研究が進展を示している。これは法と心理学などの分野に多くの示唆を与えると考えられる。以上の研究動向について、報告者自身の研究成果をも題材に取りながら論考する。
- 太田紘史「道徳判断のメカニズムから学ぶべきことは何だろうか」
  道徳判断のメカニズムを心理学的に解明することは、倫理的問題に対してどのような意義を持つのだろうか。今のところ、そうした意義を取り出そうとして最も注目を集めているアイデアは次のようなものである：ある種の規範倫理学的な理論を支える道徳判断は、非-真理追跡的なプロセスを含んだメカニズムから生じており、それゆえそうした判断の（ひいてはそうした理論の）正当性は否定される。しかし私は、こうしたアイデアのもとで進められてきた既存の議論はうまくいっておらず、そもそもそうしたアイデアには一般的な難点があることを指摘したい。この検討を踏まえて、私がさらに提案したいのは次の点である。道徳判断の心理学的研究の意義はむしろ、我々が倫理的問題を一貫した原理によって解決できないことの心理的起源を明らかにすることにあり、そしてそれを通じて、我々人間の倫理的な生の限界の一端を科学的対象として理解することにあるのである。

第1回

日時：2016年12月18日（日）15:00-
会場：名古屋大学情報科学研究科棟第1講義室（キャンパスマップ，アクセス）
プログラム：
- 15:00 - 16:30　「第三者として評価することが道徳を進化させた？」川合伸幸（名古屋大学大学院情報科学研究科）
- 16:30 - 18:00　「ヒト以外の『道徳性』―野生チンパンジー社会の観察から」中村美知夫（京都大学大学院理学研究科）
講演要旨
- 川合伸幸「第三者として評価することが道徳を進化させた？」
  目には目を歯には歯を」という言葉は，紀元前1770年頃に発布された世界で２番目に古いハンムラビ法典に見られます．ヒトは良いことも悪いことも公平であることを求め，不公平を忌避します．このような不公平の忌避はヒトと同じ霊長類の動物でも見られます．ドゥ・ヴァールたちのオマキザルの実験が有名ですが，夫婦で協力して養育するマーモセットを対象とした私たちの研究でも，隣にいる個体と同じ作業をして自分が隣の個体よりも価値の低い餌を差し出されると受け取りを拒否しました．これは，「自分と誰か」の利益のバランスを考えた結果だと考えられます．
  
  私たちはさらに，マーモセットは，自分とはかかわりのない第三者のやり取りが，互いに公平なものか，どちらかだけが得をする不公平なものかを判断できることをあきらかにしました（Kawai et al., 2014, Biology Letters）．具体的には，２人のヒト演技者が，それぞれ持っている食物を互いに交換しあう条件（互恵条件）と，１人の演技者が交換を途中で止めて，すべての食物を独り占めする条件（非互恵条件）のやりとりをマーモセットに見せました．これらのやりとりを見せた後に，２人の演技者から，演技では用いたのとは異なる食物を同時に差し出したところ，互恵条件の直後では，どちらの演技者からも同じ割合食物を取りましたが，非互恵条件の直後では，食物を独占した非互恵的な演技者から食物を取る割合が少なくなりました．つまり，「第三者同士」の不公平を認識できることを示しています．
  
  この第三者のやり取りを認識できるのは重要です．私は，道徳とは個々人が内的にもっているものではなく，公平で互恵的な社会を維持するための行司役としての行為を担う第三者の役割が道徳として機能しているのではないかと考えています（川合, 準備中）．
  
  たとえば，自分がひどいことをされたときに仕返すのは報復であって罰ではありません．罰とはそのやり取りをみていた第三者がおこなうもので，ヒトはコストをかけても第三者として非道な行為に対して罰を与えます．これは，社会としてみれば協力的な社会をささえる仕組みになっていますが，個人のレベルとしてみれば評判を高める正直信号になっています（Jordan et al., 2016, Nature）．そして，利他的な社会ほど，第三者として罰を与える傾向が強い．ヒトは自身がひどい目にあったときには報復を望まないが，第三者として不公平なやり取りを見れば厳しく罰します（Feldman-Hall et al., 2014, Nat. Comm.）
  
  いっぽうチンパンジーは不公平を嫌いますが，第三者として不公平な分配をした独占的な個体を罰することはありません．サルは第三者として公平・不公平なやり取りを判断できるにもかかわらず，罰を与えて（無意識のうちに）社公平な社会のために第三者として振る舞うことと，また社会がヒトにそうさせてきた共進化が，私たちの道徳やその先にある正義の源泉ではないかと考えています．法哲学者のがいうところの法の解釈によれば「『正義』とはある社会（通常，国家）において法を遵守させるだけの権力が保証されているという状態」との考えと矛盾しないようです．
- 中村美知夫「ヒト以外の『道徳性』―野生チンパンジー社会の観察から」
  私たちはしばしば，他の動物には無い「何か」を人間が持っていると考える．その「何か」としてこれまでに挙げられてきたものを列挙するときりがないが，おそらく「道徳性」もまたその一つであろう．
  
  一方で，人間もまた動物の一種であることも疑いようがない．標準和名でヒトというその生物が，霊長類（サル類）の仲間であることはよく知られているが，さらに言うならば，ヒトはゴリラやチンパンジーといったアフリカ大型類人猿の系統の中にすっぽりと入ってしまう．人間自身を特別視するがゆえに，かつてヒト科（Hominidae）はヒト（Homo sapiens）という一属一種だけを含む分類群であった．だが，近年ではアフリカ大型類人猿がかつて考えられていたよりもヒトに近縁であることが分かり，ヒト科の一員として分類されることが増えている．このように，ヒトには非常に近縁な現生種がおり，そうした近縁種も含む系統がどういった特徴を共有していて，どういった特徴が種ごとに異なるのかを知ることは，私たち自身を知るためにも重要な作業である．
  
  アフリカでの野生チンパンジーの研究は，1960年代に開始され，現在まで継続されている．そうした長期研究の中で，チンパンジーが日常的に道具を使ったり，狩猟して他個体と肉を分配したり，複雑な社会的駆け引きをおこなったり，集団ごとに異なる文化を持っていたりすることなどが明らかになっていった．こうした知見の中にはかつて考えられていた人間の独自性や人間観を揺るがすことに繋がったものも多い．
  
  本発表では，これまでに野生チンパンジーの研究で明らかになった知見を，とくに人間社会における「道徳性」と関連しうる側面に注目しながら紹介したいと思う．道徳は内面化された規範の総体とでも言えるようなものであるため，行動だけからその有無を断ずることはおそらくできない．しかし一方で，道徳は個人的なものではなく，社会的な他者との関わりの中で生じるものであろうから，個体同士がどのように相互に関わり合うのかを紐解くことからヒト以外の「道徳性」にアプローチする可能性が開けるのかもしれない．

本研究プロジェクトはJSPS科研費JP16H03341「科学に基づいた道徳概念のアップデート」の助成を受けています．