LIFE3.0勉強会用質問項目
News Picksさんの「アウトプット読書ゼミ」(LIFE3.0) のために各回で出していた質問項目です。回答してもらって議論の手がかりにしていました：
マックス・テグマーク「LIFE3.0──人工知能時代に人間であるということ」
1章・2章:
質問1: 図1.2 の「AIが人間のレベルを上回るのはいつか？」「それは良いことか」という二次元のチャートの中で、皆さん自身は自分をどこに位置づけますか？そしてなぜそう思いましたか？
質問2: 本書では知能を「複雑な目標を達成する能力」と定義しています。知能とは深淵で複雑なるものと思いがちですが、この定義は驚くほど簡潔で曖昧さがありません。知能をこう定義づけることに納得しますか？そうでないとしたらどんなところに違和感を持ったでしょうか？
質問3: LIFE3.0に関連したおすすめのSF/アニメ/漫画/映画などを一つ紹介してください（なぜおすすめしたいと思ったか、LIFE3.0とのつながりはどんなところか）。
3章：
筆者らはAI軍拡競争に対する懸念を示し（生物兵器の開発を制限したように）その開発に何らかの制限を与えるべきだと主張しています。これに対してどのような考えを持ちましたか？もし制限すべきだとしたらどのような体制が有効だと考えますか？
知能マシンが人間の職業を（部分的にでも）代替する可能性のある職種を一つ挙げて、その理由と時期を予測してください。
もし法体系や税制などを変えて良いとして、知能マシンの社会での利用が増える近未来においてどのような政策があり得ると思いますか？
知能マシンが職業を代替する可能性について述べられていますが、逆に、知能マシンの時代にあらたに出現したり発展したりする職種にはどんなものがあるでしょうか？
4章：
「AIの脱獄」（人間の管理下から離れてしまうこと）として、最もありえるシナリオはどのようなものだと思いますか？
「セキュリティブレスレット」のように、利便性とプライバシー保護の両面で考えなければならない（簡単に善悪が言えない）微妙な技術が多く出現するのではと思います。他にどのような例があるでしょうか？
「能力があって、人間の目標とは合致しない」例にはどのようなものがあるでしょうか？
5章・6章：
「表5.1のシナリオで、もっとも共感するもの（こうなってほしいと思うもの）、もっとも可能性があると思うもの」はそれぞれどれでしょう（同じでも構いません）。そして、http://AgeOf.Ai.org のサーベイに実際に記入して送って見ましょう。とくに表5.1のそれぞれに点数をつけるところがありますので、それを皆さんで共有すれば議論の材料になると思います。
7章：
超知能が、もし自らの目標を持つとしたら、それはどのようなものになると思いますか？
人間はAIを擬人的なものとしてとらえがちだという議論をしていますが、どんな例があるでしょうか？
超知能の目標が、人類の目標から逸脱しないようにすることは可能でしょうか？そうするために、どんな仕組みや方法が考えられるでしょう？
8章：
生物が意識を持つ理由は何でしょう？生存のために有利だとしたら、意識をもつことでどう生存に有利なのかを考えてみてください（たとえば意識を有さないゾンビヒトがいたとして、それは現行のヒトと比べてどこが不利でしょうか？）。
チューリングテストの意識版、つまり、外部から、その系（生物や無生物）が意識を持っているかどうかを判定する手法を考えてみてください。
８章では、意識を持つ系は部分に分けられないとしていますが、コンピュータシステムである超知能は、生物であるヒトよりも遥かに容易に「部分に分ける」ことができてしまいます。また、地球サイズや銀河サイズにネットワークを介して拡大することもできますが、その際には伝達遅延は無視できません。その場合でも、意識の唯一性は守られるのでしょうか？あるいは、階層化した意識や、分散化した意識が発生するのでしょうか？唯一性が崩れた意識というのは想像を絶するところもありますが、どんな形態になるのか考えてみてください。
