NHK 人間ってナンだ？超AI入門
（2019年7月3日放送予定より)
NHK 人間ってナンだ？超AI入門は、先週から５週にわたって特別編です。
世界最先端の研究者への特別インタビュー。
第２回は、ウェンデル・ウォラック氏の登場です。
■ ウェンデル・ウォラック氏とは？ 倫理学者
ウェンデル・ウォラック氏は倫理学が専門で、AIやロボットに倫理や道徳を教えるべきだと主張している人です。
倫理や道徳を知らないAIやロボットが多くなり、人間と敵対したときは、人間が負けてしまう、人間の存在そのものが脅かされる。と言います。
そうなってしまわはないために、倫理や道徳を教えることが大切なのです。でも、そんなことは可能なのでしょうか？ どうすれば、理想的な状態になるのでしょうか？
■ ロボットに倫理を教えることはできるか？
「ロボットに倫理を教える」 ―モラル・マシーン―
ウェンデル・ウォラック, コリン・アレン他 （2019/1/10）
AIやロボットが道徳的になるには、何か必要か？
考察している本です。
AMA（Artificial Moral Agent、人工道徳的エージェント）とよぶ、道徳的なロボットについて書かれています。
自分で自分の行動を道徳的かどうか評価する、つまり自分を客観的に見て反省し、行動を変える、というものです。人間みたいなロボットですね。
こういった振り返りが自律的にできるようになるには、倫理的感受性が必要と言います。つまり、今のは間違った行為なのではないかと、一旦立ち止まり、考えるなど。自分の問題に気づく感性を持つことが重要です。
実現方法として、人間が行動規範を教えるトップダウンアプローチと、機械学習や進化シミュレーションなどAIの手法を使って、自ら気づき行動を変えるボトムアップアプローチの両方を組み合わせた「ハイブリッド・アプローチ」というものが提唱されています。どちらか片方のアプローチだけでは、色々な問題に対処できないということです。
「ハイブリッド・アプローチ」を実現するには、人間も持っている感情、情動が不可欠と言います。
■ 人工知能学会 倫理委員会
日本の人工知能学会の中にも、倫理委員会が設置されました。
人工知能の能力がどんどん高くなり、人間の活動に与える影響が大きくなっていることが背景にあります。人工知能が暴走して、人間に危害を与えるような状況は絶対に避けなければなりません。
早め早めに対策するために、人工知能の専門家以外の学識者も参加しています。
人工知能（AI）が当たり前になった時代に、人間が安心して暮らせるためには、倫理や道徳の考え方はとても重要になります。ウェンデル・ウォラック氏の主張に耳を傾け、今後のAI社会を考えてみてはいかがでしょうか。
今後も、AI倫理に注目ですね！
ではでは。