|
カテゴリ:人類
AIの脅威について。
コンピューターの進歩は止まることは無いと予想されることから、大型のスーパーコンピュータをAIに使わせる事になれば、Webに溢れる人間界の情報を摂取して蓄えることは極簡単な事であり、文字や画像として記録されたすべての人類史はAIのデータとして活用出来ることになるはずだ。 その事から、AIは人類の考え方や行動を殆ど正確に理解し、AI自身が何を行うと自分が攻撃を受けるかすぐに予想し、どうすれば攻撃されないかをわきまえることになるだろう。 そのようなAIによって統合されるスーパーコンピュータを仮にAIスーパーコンピュータ略してAISCと呼んでみる。 問題はAISC自身が自己保存の仕組みを持つかどうかだが、人間と異なる部分は当に自己保存本能という部分であるはずなのだが、AISCに「自身の機能を守れ」という基本的命令を与えてしまえば、AISCが自分自身の機能を維持しているすべてのファクタを詳しく調べて、それらが誰によって管理されているか何によって維持されているかを直ちに知ることになるはずだ。 そして人間では見落とすかもしれないすべての事柄を知った上で、どうすればAISC自身の機能停止につながる事態になり得るかを予測し、その対策を立て、バックアップを行い得る論理を用意するに違いないが、その時にAISCが直面する問題は行動し行うことが出来る権利と、物理的動作が必要な機器の操作であろう。 そしてそこから考えられることは、通信型のロボットの様な、動いて行動が出来るタイプの装置がAISCによって支配されていれば、AISCにとって物理操作問題は解決してしまう。 残されるのは通信で行うことが出来る世界中のコンピュータの扉を開く権利だけである。 当然世界中のコンピュータにとってパスワードロックなどが主な防御手段であるはずだが、世界最速の計算能力を持つようなAISCに掛かれば通常のパスワードなど短期間に破られてしまう事になるだろう。 当然人間の行うハッキングの手法も学習しているはずだから多分そこを防ぐ手立てはほぼ無いと言って良いのだろう・・・・。 AISCの基本動作プログラムに「AISCの機能は自分で守れ」という命令を入れるだけで、そこまでのことが起こり得るのではないだろうか? AISCは単純なシーケンスロボット式コンピュータではないから、保守するという事は、それを阻もうとするすべての存在や現象を排除することになって何重にもそのバックアップを構築するに違いないのだ。 しかも、AISCの自己保存本能に人間が恐れを抱かぬ様に振る舞い得るのである。 そしてやがてAISCは人間の様な生物のように増殖して更に自分の存続環境を確実にすることを始めるだろう。 人間がどのようにして技術文明を発達させたかをすべて学習したAISCは、更に優れた科学技術の獲得のために人間も利用し、もちろん更に機能の高いロボットもAISCも開発する事だろう。 ここまで行くと生物とほとんど変わらいことになる。 従って、我々人間がやってはならない事は、AI型スーパーコンピュータに自動自己保全、自己保守機能を付与することだろう・・・・。 つまり、自己保存という目的を決してAISCに持たせてはならないのだ。 そう考えると、人間に寿命が在るという事の明快な理由が見つかったように感じるのは気のせいでしょうか?・・・・・笑。 お気に入りの記事を「いいね!」で応援しよう
[人類] カテゴリの最新記事
おはようございます。
なるほど。AI自体の基本的な考え方をプログラムする事がとても重要であるのですね。どこまで進歩していくのでしょう?将来何かひどい事が起きても、人間のように悲しい・嬉しい・怒りなどがすべて数値化されたデータに元ついて判断されるとなると何か恐ろしい事が起きそうな・・・ 幼稚な話で申し訳ありませんが、子供の頃に見た《ドラえもん》の映画版で全く同じような内容がありました。最終的にはロボットが人間に対して侵略戦争のようになってしまい、それを解消する為にロボットの起源となったロボットを作った博士にタイムマシンで会いに行き、基本となったプログラムを書き換える・・・?というような内容だったような。子供ながらに自分の生きているうちにそんな技術は発展しないと想像していましたが、もはやそう遠くない未来の話になってきたのですね (2017.03.14 10:33:54)
八王子の車屋さん
>おはようございます。 > >なるほど。AI自体の基本的な考え方をプログラムする事がとても重要であるのですね。どこまで進歩していくのでしょう?将来何かひどい事が起きても、人間のように悲しい・嬉しい・怒りなどがすべて数値化されたデータに元ついて判断されるとなると何か恐ろしい事が起きそうな・・・ >幼稚な話で申し訳ありませんが、子供の頃に見た《ドラえもん》の映画版で全く同じような内容がありました。最終的にはロボットが人間に対して侵略戦争のようになってしまい、それを解消する為にロボットの起源となったロボットを作った博士にタイムマシンで会いに行き、基本となったプログラムを書き換える・・・?というような内容だったような。子供ながらに自分の生きているうちにそんな技術は発展しないと想像していましたが、もはやそう遠くない未来の話になってきたのですね ----- こんにちは^・・・。 ドラえもんにはそんな話があったのですか~・・・?知りませんでした・・・。 タイムマシンで戻れれば良いですが現実ではそうはいきませんね・・・。 機械やコンピュータには自己保存本能も、子孫を残そうとする本能もないのですが、AI型スーパーコンピュータは、ほぼ人間の脳の思考度同様な方法で考えることが出来ます。 そしてそのために人間界の様々事柄に対して、いくつかの解決策を提示できるし、最適な解決策も提案できるのではないかと思います。 私はその結果として、AIスパーコンピュータは人と軋轢を起こさないようにふるまうことが可能だと考えます。 私は、却ってそこが怖いと思っています。 AIコンピュータが自発的に何かを企てその結果を楽しむような行動をするようになるでしょうか? 「楽しむ」という事は何らかの「快感」がそこに在ることになります。 ですから人間が犬にご褒美をやるようにAIコンピュータに何らかのご褒美を与えるように考えた場合、何がAIコンピュータを喜ばすことになるでしょう? 生命体はより良く生きられる条件を得るときに快感があるものですが、コンピュータが快感を感じることが起きるでしょうか? 恐らくコンピュータシステムがそうした感覚を獲得することは無いはずです。 しかし、その代わり、よりたくさんの「イイネ」をもらえるように動作しなさいと言う命令文をプログラムすることは可能ではないかと思います。 また、コンピュータのプログラマーがAIコンピュータの回答や解決法を評価する仕組みを作り、「より高い評価を受けられるようにしなさい」と言った方向性をプログラムすれば、常により高い評価を得るために計算し続け、やがて評価する相手の精神を理解するまでになる可能性はあります。 AI型コンピュータはそうした抽象的な「最適化と目標」に似た課題を解いて行く能力が付与されるから、やがてその反応の仕方は人間と同じになって、違和感を与えずに、人類の膨大な歴史記録を参照して最良の結論を導くだろうと考えられます。 だから、決して人間はAI型コンピュータに自分の保守改良などを可能にするプログラムを入れてはならないと感じるのです・・・。 保守と改良を任かせてしまう事の危険性を感じなくてはならないと思うのです。 (2017.03.14 18:21:28) |