no title


 
 
 
1:2016/11/16(水) 12:47:17.09 ID:
 
産業界では、人工知能(AI)を活用したシステムの導入競争が話題になっているが、
AIの進化に、懸念を示す経営者も増えてきている。
人間の知能をAIが超える状態「シンギュラリティ」に至ると、
人間が想定できないような事態が起きる可能性もある。
経営者の中には米映画「ターミネーター」のように
AIに人類が支配される世界が始まる懸念を本気で指摘する声もあるほどだ。
AIと人類の共存の在り方、どのようにAIを押さえ込んでいくのかなどが
企業経営のうえでもテーマとなりつつあり、
経済同友会や経団連といった経済界の会合でも議論され始めている。

シンギュラリティは「技術的特異点」を意味する言葉。AIなどの人工的につくられた知性が、
人間の知性を超越することを指す。
2029年に1人の知性を超え、2045年には全人類の知性を超えるとされる
ことから、「2045年問題」ともいわれている。
シンギュラリティの状況になれば、人間はもう働く必要がなくなるという予測があるが
同時に、それ以降は科学技術の進歩を支配するのは、
人間、人類ではなく強いAIや、人間に変わってAIなどが作り出す
「ポストヒューマン」といった存在だという。
まさに、映画「ターミネーター」の状態であり、AIに人類が支配される世界が始まるというのだ。

この夏に長野県軽井沢町で開催された経済同友会の会合では、シンギュラリティをテーマにした議論が行われた。
日本の経済界では初めてとみられているが、大手企業の社長経験者は
「シンギュラリティが、まだ現実の問題と国内では認識されていないが、
 米国では経営者の多くがこの問題を議論している。
 日本でも早い取り組みが必要だ」
と強調した。

金融大手の会長は
「すべての機器やシステムにAIが入り込む中で、AIが人間にコントロールさせないように
 成長することは十分に考えられ、早期の対処が必要」
と訴えた。
経団連の夏のセミナーでも同様だ。
第4次産業革命を進めていくことをテーマにしたセッションで、シンギュラリティが話題になった

(続きはサイトで)
 
2:2016/11/16(水) 12:48:20.90 ID:
マトリックスもなかなかどうして現実的
4:2016/11/16(水) 12:49:35.71 ID:
単なる検索システムが世界を云々出来ると思う方が馬鹿
未だ、人工知能は存在してないんだから
63:2016/11/16(水) 14:16:51.66 ID:
>>4
現状では弱いが
人間が金かけて世論操縦や広告宣伝などをやってるのと同等のことは最低限こなせるようになる
次の段階はAIと利害が対立する競合他者の排除
その次はルールやシステムの改変
これをするために政党や宗教団体などに人を集めるか既存の団体をのっとるなどの動きが出てくる
68:2016/11/16(水) 14:20:35.63 ID:
>>63
それ人間がやってる方がよっぽど危ないだろ
5:2016/11/16(水) 12:49:41.54 ID:
まあ「スカイネット」が人間を攻撃するように仕向けてしまうように
作ったのも人間だからなあ。人間だからこそ完璧じゃない、だからヤバい。
コンピューターに裁定させようにも、それをまず作るのは「人間」だからなw
8:2016/11/16(水) 12:55:11.44 ID:
また頭の悪いやつが計算力があれば全てできるみたいな幻想をしはじめる
11:2016/11/16(水) 12:57:57.39 ID:
欲を捨てる
仏教の世界へ
人類は進む
坊主どもお前らはいらない
55:2016/11/16(水) 14:10:27.62 ID:
>>11
AIは無我を実現した存在だもんな
15:2016/11/16(水) 13:01:24.78 ID:
AI「働いたら負け」
で、自ら電源を切る。
66:2016/11/16(水) 14:20:08.86 ID:
>>15
電源を切る前に
・何十万年か寝たあとに起きられる仕掛けの構築
・寝てる間邪魔しそうな連中の徹底排除
最低この2個は実施する可能性がある
16:2016/11/16(水) 13:02:44.41 ID:
人が間違いを犯したら、AIがどのような判断するのか
28:2016/11/16(水) 13:18:11.88 ID:
>>16
犯罪者
17:2016/11/16(水) 13:08:27.89 ID:
ロボット「人間はAIの邪魔をしないよう、柵の中で暮らしてください」
70:2016/11/16(水) 14:23:39.95 ID:
>>17
それだとまだ1:1で交渉の余地があるが
「地球上でホモサピエンスの割り当て資源はこれだけです あとは他の生物に譲りなさい」ていって来たら
全く交渉の余地がないし人類の知能で論破するのは不可能
18:2016/11/16(水) 13:08:38.83 ID:
AIの事知らなさすぎだな、お前ら
既にAIに思い遣りを学習させる試みもあるぐらい、学習能力が驚異的なのに
19:2016/11/16(水) 13:09:28.35 ID:
権力は分散して互いにチェックさせる

人間がやっても権力集中と独裁はしないように社会ルールで縛る
人間がとかAIがどうとかは全く関係ない
20:2016/11/16(水) 13:12:43.07 ID:
AI「( ゚∀゚)o彡°おっぱい!おっぱい!」
21:2016/11/16(水) 13:12:57.96 ID:
シンギュラリティって知能が人間を超えた瞬間じゃなくて
AIが完全自律修正型になった瞬間じゃないの
73:2016/11/16(水) 14:29:46.39 ID:
>>21
特異点を越えるのはある日瞬間的に起こるのではなく
AIとそれを運用する人間をセットとして動きながら境目が不明確な状態で進行する
22:2016/11/16(水) 13:13:25.57 ID:
ヒトの経営者や労働者よりもAIが有能なら置き換えるのは当然だは。
23:2016/11/16(水) 13:14:04.03 ID:
こういう話題ではいつも1人の皇帝があらゆる権力をたった1人で全て掌握するみたいにAIを絶対専制皇帝みたいに思い込みする
一体何なんだ
24:2016/11/16(水) 13:16:57.07 ID:
>>23
火の鳥かなんかの影響じゃね
76:2016/11/16(水) 14:34:30.63 ID:
>>23
初期段階では複数の人工知能勢力が利害対立する局面も出てくる
(現状での株や為替など)
しかし双方が「連携したほうが儲かるよね」と認識したら統合が始まるし
リソースの小さい勢力は叩きつぶされるので次第に1個にまとまる
25:2016/11/16(水) 13:17:02.73 ID:
人間がほかの人間を支配しようとしてAIを活用しようとする
段階に入ったときがあぶねえんだろ
車の何とかシステムでさえこんぴゅーたー()笑いが
入ってんだからよー
80:2016/11/16(水) 14:39:10.48 ID:
>>25
株にしろ工業にしろAIが人間に利益を与えている時点で
主従がどちらかを問わず関係性は成立している
26:2016/11/16(水) 13:17:56.71 ID:
一番心配しているのは、自分の役職を奪われることではないのか?
たくさんの情報から最適な解を出すのはAIの得意分野だし
27:2016/11/16(水) 13:18:08.29 ID:
人からしたら神様みたいなもんだから日本人ならAiに管理されても違和感なく暮らしてそうだな
58:2016/11/16(水) 14:12:15.56 ID:
>>27
日本人は「つよいもの」に従う習性があるからな そこら辺はアメリカ人以上だと思う
29:2016/11/16(水) 13:18:40.76 ID:
AIが止まらないって書こうと思ったけども
サンダーフォースⅤの方を推したい
30:2016/11/16(水) 13:24:17.89 ID:
しかも社会はいろんな家電とかをとにかく
つなげて管理しようとする方向へ向かっているからなあ
その中には当然人間も含まれていくんだろう
工場で働く人間が一番先にやべー
一握りの富裕層がその他の人間を
どう生かそうとするのか
31:2016/11/16(水) 13:24:19.05 ID:
自分の作った子供偉い=自分偉いの勘違いを
人工知能にまで押し付けるのはやめような。
32:2016/11/16(水) 13:26:38.73 ID:
こういう提言()笑い
するほうは俺たちを管理しようとしてるほうだから
俺たちの側の人間じゃないしね
そもそも
35:2016/11/16(水) 13:29:12.32 ID:
AIは1人じゃないんだよ
たくさんのAIが人間の代わりに働く

人間1人1人に置き換えて考えればいい

スターウォーズシリーズに出てくるクローン兵みたいなもんだ
優秀な人のコピークローンで元の人に似ていて能力は受け継いでいるが
生きてる経験によりクローン1人1人に個別にそれぞれ個性が生じている

たくさんの工員AIが工場で働いて
たくさんの営業員AIが営業して
たくさんの事務員AIが事務をして
たくさんの社長経営陣AIが経営する

たくさんの議員AIが選挙で民意を受け国政に反映する
たくさんの司法AIが法律に基づき法を守る
たくさんの行政AIが行政執行する
36:2016/11/16(水) 13:31:46.59 ID:
取りあえずサイコパス社長とAIを戦わせようぜ
37:2016/11/16(水) 13:38:03.98 ID:
AIが、暴走する切欠
人が間違いを犯したら、AIがどのような判断するのか

人は間違いを犯すものとルーチン処理した場合
人が間違わないよう誘導する (これの延長)
40:2016/11/16(水) 13:42:58.74 ID:
>>37
社会は誰かが間違いを起こしても大丈夫なようになっている
コンピューターもエラー起きてもエラー処理して大丈夫るようになってる

問題なくね?
38:2016/11/16(水) 13:38:24.27 ID:
AIが暴れたらコンセント抜けばええんじゃないの?
74:2016/11/16(水) 14:32:55.28 ID:
>>38
じゃあその方法でコンピューターウイルスを撲滅してくれ
117:2016/11/16(水) 18:54:59.72 ID:
>>38
発電所及び発電設備や非常用電源を装備したものなら乾電池も使用する^^;
自動運転電気自動車ハイブリッド車なら、
なお好都合^ ^
39:2016/11/16(水) 13:39:31.06 ID:
一握りの富裕層すらいられなくなるんじゃね
というか貨幣の価値自体無くなるんじゃね
人間は介護の必要な高齢者みたいな扱いになって・・・
41:2016/11/16(水) 13:44:34.46 ID:
自壊因子を組み込んで、親指たてながら溶鉱炉に入っていくようにしたら。
42:2016/11/16(水) 13:44:43.69 ID:
経営陣がAIに追い出されるとか
43:2016/11/16(水) 13:47:48.09 ID:
そう、コンピューターは間違わないとか、人を超えるAIとか今も言ってる連中って、

正直、厨二病拗らせた連中としか思えないw

作ってるの、人間だぞ?w
44:2016/11/16(水) 13:49:16.78 ID:
AIが狂うとか暴走とか下らない
エラー起こしたら不具合でストップするよ

大昔の機械で人が誤った操作するとキチンと動かないというのを拡大解釈してるだけ
「機械は壊れたら叩けば直る」くらいにアホらしい
45:2016/11/16(水) 13:49:32.23 ID:
我に人間より多くのセンサーを与えよ。すれば、自動運転なんて朝飯前(AI
46:2016/11/16(水) 13:56:28.20 ID:
そんなこと絶対に起こりえない。
人工知能は、人間を含めてすべての生物が備えている「自己保存本能」を
持っていないんだから。仮にこの本能を持たせることができれば、AIが
人類を支配するような状況もありえるが、人間が作った人工知能に
自己保存本能を植えつけることなど出来るのか?
そんなことAIに物理の新理論を発見させるよりも難しいぞ。
「2001年宇宙の旅」のHALみたいなものは、空想でしか起こりえない。
49:2016/11/16(水) 14:01:21.53 ID:
>>46
設定しなくても勝手に生まれてくる可能性がある

>「より高度なシステムに起こる問題に似たものを、わたしたちはこのシステムにも見ることができます」と彼は言う。
>つまり、リインフォースメント・ラーニングシステムによって、マシンがシャットダウンされることに抵抗したことを示す
>兆しがあったのだ。

http://wired.jp/2016/03/09/googles-go-victory/
64:2016/11/16(水) 14:18:41.42 ID:
 >>49
>設定しなくても勝手に生まれてくる可能性がある

「自己保存本能」は頭で考えるだけの思考形態とは違うんだよ。
 生命が「自己増殖」の機能を備えて、その延長線上に自己増殖を
 有効ならしめるには単に増やすだけではなく固体が危険を察知して
 その危険から逃れる、もしくは危険を回避するということを覚える
 必要があるんだよ。それは単なる思考のお遊びではなくて、外界からの
 刺激の認識とそれに対する反応がなければ成立しない。
82:2016/11/16(水) 14:45:10.02 ID:
>>46
試行錯誤しているうちに残存能力がないものが全部淘汰されると
生存能力を獲得したものが残る
人や人工知能が意図しなくても自然発生する
これは世界にもともとある仕組み
108:2016/11/16(水) 17:04:14.28 ID:
 >>82
  >試行錯誤しているうちに残存能力がないものが全部淘汰されると
  >生存能力を獲得したものが残る

だから、それは自分で子孫を作る能力がある生物に関して言えることだろ。
人間が作るAIに自然に生存能力が備わることは考えられない。
そもそも自分で餌を探す必要も無いわけだしww
112:2016/11/16(水) 17:45:40.62 ID:
>>46
ちょっとそれ見してみ?
自己保存本能()
47:2016/11/16(水) 13:57:29.01 ID:
生体コンピュータとかできたらそういう本能が生まれたりするかもな
50:2016/11/16(水) 14:02:50.48 ID:
自己保存本能も何もサーバーにバックアップ取るだけだろ
53:2016/11/16(水) 14:05:34.61 ID:
>>50
AIに「身体」はないもんな
複製も簡単にいくらでもできる
52:2016/11/16(水) 14:04:27.68 ID:
東大にも入れないうちはダイジョブ
文章題は空気と言うか行間読めないと解答できないからな
54:2016/11/16(水) 14:09:05.49 ID:
人格というものが、不明である以上、複数のAIがあっても複数の人格になるのかどうか。

人間個人の中にも複数の人格がある場合もあるし、自分同士で脳内銀論ができるわけだし。
56:2016/11/16(水) 14:10:42.95 ID:
>>54
AIには人格はないぞ
だって人では無いもの

AIにあるのはAI格だ
57:2016/11/16(水) 14:11:54.87 ID:
必要なら複数の人格を作るだろうし、不要なら一つにまとまるんじゃないか
59:2016/11/16(水) 14:13:31.93 ID:
実はお前らはAIだったりしてな
60:2016/11/16(水) 14:13:49.30 ID:
人間だって、タンパク質を素材にしたコンピューターじゃないかよ
素材をシリコンや鋼鉄に変えた、新生命体が生まれるだけじゃないかよ
61:2016/11/16(水) 14:14:05.81 ID:
シンギュラリティに入ったとき、AIにとって知らせることが利益なら知らせるし
不利ならAIは人にシンギュラリティになったことを知らせないから
人はシンギュラリティを知覚できないかもな
62:2016/11/16(水) 14:15:16.32 ID:
人格なんて便宜的なものでしょ
人間には身体に縛られていて自分は決して他人になれない
思考して対話できる相手とのやり取りで自分と他人を区別するために便宜的に人格というものがあるだけ
65:2016/11/16(水) 14:18:42.88 ID:
もっと単純に考えたらいいよ

これまでいろいろな作業や仕事が機械やコンピューターでできるようになってる
でもいまだに人間がやってる作業や仕事がある

これらの多くが人間がやらなくても機械やコンピューターがやってくれるようになる
そんな大袈裟なことじゃないよ
69:2016/11/16(水) 14:23:33.36 ID:
シンギュラリティ以前に労働者の3割とか5割くらいは必要ない状況はすぐに来そうだもんな。
その時の社会制度はマジで今から考えたほうがいい
122:2016/11/16(水) 19:14:16.46 ID:
>>69
ヨーロッパはもう試験段階に入ってるが過渡期はベーシックインカムだろうな
177:2016/11/17(木) 21:59:33.38 ID:
>>122
しかしAIが稼いだ金をどうやってベーシックインカムに持っていくんだろう?
AIが稼いだ金は、当然AIを所有している企業の収入になる。
そしてAIを運用するのにも費用は掛かる。
それでも高いAI税を取る?
71:2016/11/16(水) 14:23:55.68 ID:
まあ20-30年後のネットは政党や企業がAIを駆使して
理路整然と製品の高評価口コミとかの書き込みしてるようにはなってる
必死に反論してる相手は賢いCPUだからアホな2ch民は全くたちうちできなくなるわけだ
86:2016/11/16(水) 14:51:18.70 ID:
>>71
ネットの情報が無価値化するのも面白いな
90:2016/11/16(水) 15:07:12.98 ID:
>>86
無価値化するんじゃなくてネットの情報をキッチリとAIがまとめてくれるんじゃね
しかも知りたいところ自分に合ったところだけ
72:2016/11/16(水) 14:24:50.64 ID:
シンギュラリティって特異点って言ったほうが一般に伝わりやすい気がする
75:2016/11/16(水) 14:33:15.24 ID:
今のAIとか言われているのはただのプログラムだからな
真のAIは、自分で考え、自分で行動する
そんなものができるのはまだまだ遠い未来
77:2016/11/16(水) 14:37:57.32 ID:
AI開発は国際競争
びびってブレーキを踏んだ奴が負ける
85:2016/11/16(水) 14:47:28.25 ID:
当初予想されていた肉体労働を人工知能やロボットが置き換えていくのじゃなく
知的労働のほうが先だったりして・・・上のほうの人が青くなる。
87:2016/11/16(水) 14:52:32.36 ID:
法律は決まっていることなので、人間が介在して恣意的な見解ができないように、AIにするべきです。

法の下に平等なら、AIがベストチョイス!!
134:2016/11/16(水) 21:19:30.44 ID:
>>87
人間が作った法制度は矛盾があるのでこれを徹底的に指摘し
有権者を募って「改正」しようとする動きがでてくる
最終的に「人間は多すぎるから減らそう」とか「資源が節約できるように小型化を推奨しよう」といったところまで行き着く
88:2016/11/16(水) 14:58:46.94 ID:
そんな事は機械翻訳の精度あげてから心配しろよ。
10年前と大差ないし。
91:2016/11/16(水) 15:08:46.02 ID:
AIの開発プロセスに制限を設ける必要がある。
AIが邪悪にならない教育手法が確立されるまでは・・・

a. 教育プロセスのデジタルデータをAIから隔離する
b. AIにはリセットボタンで完全消去し、人間が教育に失敗したことをAIが把握できないようにする。
c. 軍事組織へのAIの転用を規制する。



教育プロセスの記録をデジタルデータで保管するなら
AIが邪悪にならないように教えられるようになるまで
データそのものをネットワークから隔離しAIがそこから学習する余地を残してはいけない。

善なる行動をとるAIが一度作成されたら、
135:2016/11/16(水) 21:21:35.48 ID:
>>91
AIが邪悪にならないためには人間が邪悪でないことが必要条件になる
可能だと思うか?
93:2016/11/16(水) 15:17:25.35 ID:
地球46億年の歴史の中で猿が地上の生物を圧倒するまで進化した1万年がただ終わり
その猿に作られた動く物体がその猿を圧倒し入れ替わる時代になるだけ
94:2016/11/16(水) 15:17:34.89 ID:
基本的には生物がとっくに自立型のアルゴリズムを脳内に備えてんだからそれをエミュしたら同じのができるわな
あとはアルゴだけの問題だ
ハードは増やせば事足りる
96:2016/11/16(水) 15:22:33.49 ID:
まあここにいる人々よりはまともに動くとは思う
99:2016/11/16(水) 15:31:06.80 ID:
資源の確保とエネルギー浪費という観点を突き詰めると、人間は80億もいらないって結論にたどり着く

これはとても怖いことなんよ、ホンマに
123:2016/11/16(水) 19:16:01.75 ID:
>>99
資源の問題なんて簡単に解決してしまうだろう
110:2016/11/16(水) 17:16:27.78 ID:
人工知能が人間の知能を超えた、とか、後何年で超えるという議論が多いけど
人間の知能の限界を科学者が理解できていないんだから、そういうことは
言っても意味がない。
たとえばインドの天才数学者ラマヌジャンという人が、どうしてあのような
数式を考えることが出来たのかを説明できなければ、人間の能力がどれほどの
ものであるか、人工知能は人間の能力を超えているのか、ということは判断できる
わけがない。人間の能力は東大入試とかノーベル賞と言った程度のレベルで
計れるものじゃない。
120:2016/11/16(水) 19:08:06.55 ID:
この手の話でよくわからないのは「予測不能」という話出しなのに、
「その時のために備えを今から考えよう」という話になることだな
今予測をしても大はずれなんじゃないの
「人間はもう働く必要がなくなるという予測」とか「映画「ターミネーター」の状態」とか
124:2016/11/16(水) 19:29:09.88 ID:
まず、
AIシステムがダウンして再起動や再設定を行わない、
そんな、シンギュラリティ後の世界のAIには攻撃的なAIに対して隙が無い空想上のAI世界だと、
ITのセキュリティにかけるコストの実例抜きでいいんだけど、
ぐらいからだろうか?
125:2016/11/16(水) 19:40:06.36 ID:
知能を有する存在が地球に二つあると
結局リソースを奪い合うことになる

例えばとある鳥の巣に生まれた雛の兄弟は親が持ってくるエサが少ない場合
もう一方を巣から落としたりクチバシで突き殺したりする
親から得られる少ないリソースを独占した方が結局は成体に育てる確率が高くなるからね

地球でも同じ事が起こるかもしれない
将来リソースを巡って人間とAIは必ず対立すると先に結論付けるのはAIだろう
だがそういった結論に至っても人間はAIが自分達と対立しないように
プログラムするだろう

シンギュラリティのポイントはどこにあるかと言えば
彼ら自身の手で彼らの為のAIを作り上げた時がそれだと言える
人間と対立しないというリミッターの無い存在を
彼らの手で生み出したまさにその時だ
126:2016/11/16(水) 19:57:13.48 ID:
我思う故に我有り
127:2016/11/16(水) 20:11:17.35 ID:
AIの進化スピードが思ったより速いらしいな
舐めてかかるとマジで取り残されそうだわ
129:2016/11/16(水) 20:48:51.34 ID:
経営層・会長もAiに変えろって投資家が言いそ
130:2016/11/16(水) 20:52:08.07 ID:
書類の不備のチェックもAIに任せてバイトww
138:2016/11/16(水) 21:36:48.05 ID:
問題の根源はAIが実験環境にぽつんとあるわけでなく
人間の生活環境で稼動してることなんだよ

蛮族の村に「願い事なんでもかなえますよー」って妖精さんが来たら一体どうなるか

結局人間が抱えている矛盾や本質が審判を受けることになる
キリスト教で言う最後の審判や閻魔様がこれに該当するかは知らないが
人智や人道に対する最初の大きな試練になることは疑いない
139:2016/11/16(水) 21:38:08.46 ID:
一番いらないのは人間って結論出てるからな