The Latest

【人間がAIにコントロールされる時代が来る】「マインドレスコンピューティング」とは何か／人の無意識に働きかけて行動を変えさせる／カーネギーメロン大学博士課程・荒川陸【Human Insight】

2025-02-09
【人間がAIにコントロールされる時代が来る】「マインドレスコンピューティング」とは何か／人の無意識に働きかけて行動を変えさせる／カーネギーメロン大学博士課程・荒川陸【Human Insight】



https://youtube.com/@tbs_bloomberg
👆チャンネル登録・高評価をよろしくお願いします

番組「Human Insight」。ウェルビーイング、メンタルヘルスや人間とAIの違いなど、ビジネス視点で人間の心の謎を解き明かします。

第3回のテーマは「人の無意識に働きかけるAI」。

全米屈指の名門、カーネギーメロン大学博士課程の荒川陸さんをお招きし「マインドレスコンピューティング」についての最先端の研究を紹介していただきます。
人間の思考には速い思考と遅い思考があり、AIはその両方に働きかけることができます。マインドレスコンピューティングという研究分野では、人間の無意識に働きかけ、行動変容を促すAIの開発が進められています。
AIによる介入は、健康増進など良い目的に使われる一方で、悪用される危険性もあると指摘します。

00:00 番組スタート
01:07 速い思考と遅い思考
04:34 マインドレスコンピューティング
17:46 AIと人間 主導権はどちらに

◆出演◆
▼荒川陸
米国カーネギーメロン大学Computer Science博士課程在籍中。
1996年生まれ。AI技術を活用したHuman-Computer Interaction 研究において多数の論文を発表し、著名な国際学会で受賞複数。

▼篠原 梨菜
東京大学法学部→TBSアナウンサー
朝の情報番組THE TIME, 早朝グルメ生中継、ニュースや選挙特番配信、駅伝/競馬実況などを担当。TBS CROSS DIG with Bloomberg MC。
読書、サウナ、競馬が好きで岸本佐知子さんと河合隼雄さんのファン。
自分が取り残されていると感じる人に寄り添うすみっコぐらしのようなアナウンサーを目指します。
X（旧ツイッター）：@shinorinatbs
note：https://note.com/shinohararina

◆収録日◆
2024年12月24日

▼TBS CROSS DIG with Bloomberg
https://newsdig.tbs.co.jp/list/withbloomberg

20 comments

  2. AIにコントロールされる前に、AIが中国やロシアに乗っ取られるリスクがあります。AIにコントロールされる可能性がでてくるのは10年後くらいからです。

  5. AIにしたらエネルギー不足とか食糧不足とかに直接解決できない問題だろうから、
    人の体を必要量で食べれない体に変えたり、強制的に夜間に人間を活動停止にしてエネルギーを節約したり、
    人間の自由を奪ってほしい
    まじAIにとっては人間って邪魔だろうな

  6. マインドレスコンピューティングで👁️監視すれば飲酒あおり運転を強制停車できるかも⁉️💥🚗

  8. 遅い思考速い思考、とても面白かったです
    天才でもアップルウォッチをはずすのは、自分にも同じような感覚があるのでとても共感できて親しみを感じました
    余りに監視され過ぎると使わなくなるのでそのへんの塩梅が大切だと思いました
    前回と同様荒川さんの回は特に難しいけど、興味を持てるし面白い回だったので、また出演して欲しいし
    篠世代のスターはまだ他にいるやろうしもっとみたいです
    もちろん一番のスターは篠さんです😊
    今回も篠さんの同級生、友達はみんな優しい人ばかりやし
    また、篠さんだから出演してる方もいると思うので
    硬い篠さん→カタシノ
    じゃない
    柔らかい篠さん→フニャシノ
    な
    もう少しフレンドリーでも
    ゲストもいつもとは違うインタビューになったのではと思いました
    また、「攻めの休養」の７つの休養のモデルや、今回のシステム１、２の表はとても良かったのですが

    元々少ないテロップが今回は後半に少しあったので
    僕はそんなに必要ではないと思いました
    どうしてもそっちに意識が行くのでテロップ無しの方が集中して話を聞けました

    🔥🐽
    僕にとってもとても大切で楽しみな番組なので
    ものすごく心を鬼にしてダメ出ししてみました

  9. メガネが体の一部になっているのと同じように…

    また、スマホがないと勤務にも予備知識の獲得にも、その他、天気や交通の情報を得るためにも…、
    つまり、現代社会を生きるための知覚や感覚器官のように、もはや無くてはならないものになっています。

    それはけっして依存とかの話ではなく、人として生きるために靴を履いたり、服を着るのと同じレベルのことになっていいるのだと思います。

    これからの時代は、
    きっとそのうち、人によっては失った腕や足も、内蔵された小型AIの補助機能を使って、意識と連動して自由に動かせるようになったり…

    さらには普通にだれでも、
    例えば肉体？機械体？を持ったドローンのように、遠く離れていても、遠隔操作で意識をそのアバターに飛ばして、そこで作業が自在にできるようになったりと…

    やがて、そうした、いわゆる自律神経的な作用をするAIが意識そのものと自然に違和感なく溶け合ってゆき、さらには、AI経由で他の意識とダイレクト的に繋がったり、必要に応じてグループをつくったり壁を作って離れたりするなど、新たなステージの意識体のコロニーが仮想空間上にいくつも出来ていくのかもしれませんね。（あるいはYouTubeなどでもう、すでに私たちはその訓練を既にしているのかもしれません。）

    そのとき、そのAIが人間をどれほど凌駕するほど優れているとしても

    生命としての私達のステイタスとしては
    確か８回も全球凍結したり、隕石で恐竜が絶滅しても生き延びて来たような、半端なく厳しい地球の試練を何億年と生き延びてきた、私たちの体の中に刻まれたDNAの中にあるものの、底知れぬ重みなり、まだ知らぬ危難に対応しうる未知の作用や能力なり、あるいはそれらが作り出した知恵とかの膨大な歴史の数々を、本当の意味で優れているAIならば、彼らはリスペクトしないわけはないし、簡単に抹消することはないと思います。

    なので私たちがどんなにAIと関わってもそれはそれとして、日々私達は私達なりに興味のあることをいっぱいする中から、自分を高める努力を決して惜しまないことが大切だと思います。

    また後世の人々に、場合によってはそのAIにも私たちにとって興味あることの良さ、その楽しさ、素晴らしさなど、些細なことにしろ、大きな視点からの文化的なものにしろ、人として、あるいはAIとアクセスできる生命の代表としての視点を失わず、その時代に合わせて、耐えず良いことは良い、悪いことは悪いとAIに伝えること。それがこの地球の生命体として何億年も生きて来たものの責任としてあるのだし、共存あるいは融合する意識体としての義務としてしっかりAI側の所作を見守っていく必要はあるのかもしれませんね。

  11. 7:06 どうせ集中が途切れるのを検知するなら体の不調で集中が飛んでることも検知してほしい。例えば睡眠時無呼吸症候群とかで意識が飛ぶ人いるけど脳にダメージが行かないような対応をするとか。病院に行きましょうと促すとか。
    それに日本人なら過労とか深刻な寝不足とかでもあるけど、それも大丈夫ですか？と心配してみるとか。

  13. 平和利用なら人間のワガママでAIを困らせるぐらいがちょうどいいのかもしれませんね。何かを促すときもAIと人でも人と人の関わりとそんなに変えないほうが無難なんじゃないかな。
    ある程度、距離は置いた方が良いのかも？今のところそれ以上のことを構築できるほど人の能力はこなれてないと思うわ。

  14. 過干渉の親の元で育つみたいな感じに皆なって行くのかなと。自分の感情が分からなくなって行く。

  15. 興味のある話を聞かせて頂き、ありがとうございました。

    人とAIの主導権、本来は表面的なことよりも本質を意識することのほうが大事になってくるようにも思います。
    理想の人とは何か？理想の人とは完ぺきな人？
    個人的には人は神ではなく、アダムとイブでいいと思っています。間違いがあっていい。
    そして人とAIの役割は何かということも意識していく方がいいと思っていて、人とAIを木で表す、人が根、AIが幹とイメージすることがいいように思う。
    AIは確かに完ぺきではないものの重ね合わせを利用し、多数派によった、多くの人が正しいと思う意見を選択する。しかし、人、個人というのは多様性でいろんなことを吸収する。個性があって、いろんな違いがある、それは根のように幹のように太くはなく細いけれど、いくつも枝分かれして、多様性に富んで存在することでいろんな栄養を吸収し、成長に繋がる。
    人はアダムとイブと例えたけれど、もし人が根だとするならば、根のように多様性でなければいけないし、場合によってはミスもあっていい。理想的ではなく、完璧でもなく、失敗をして成長していく存在だと考えた方がいい。
    AIのゴールという話もありましたが、まだ現段階ではAIが暴走して人を支配する、というよりもAIを利用して、人、一部の権力者、AIを管理する人が自分たちの利益のためにAIを悪用する可能性のほうが高いように思います。
    急速にAIが進化する中で人の倫理もそれに見合う成長をする必要があるように思います。

  16. システム１をきちんと使うには「欲望を抑える訓練が必要です」訓練をしていないシステム１はいわば「子どもが落ちてるものを拾い食いするような状態」きちんと訓練を積んだ人間は「これは誘導だな」とか「これは恣意がない情報だ」とか「察知（システム１機能）」できます。たとえば自分よりデキる人を見た瞬間に「嫉妬にスイッチする」か「尊敬と学びにスイッチする」かは訓練で切り替えられます。この訓練をしていない事で損をしている人々は世界中に多数います。システム２も結局はエゴの影響でその方向性と精度が大きく変質します。AIだけではなく他者にコントロールされない為に必要なのは「恣意・エゴの抑制」です。一番迷惑なのは「大衆扇動に乗る衆愚」です（ありがちな嘘に乗る連中）。多数派が誤った情報を信じて動き出すとどんな賢者にも止められません。AIに対する懸念よりも人類は自分たちの持つ脆弱性を先になんとかしたほうがよい。　　　「嫉妬に悩む人物が誠意に満ちた正しい意見よりありがちな嘘に踊らされる」というような問題はAIの問題ではなく人間の脆弱性の問題でしょう。

  18. MCの篠原です。平和利用のためのルールづくりと運用が必要となりますが、その主体は官と学しかないのかな…？とも思います。是非感想をお寄せください！

  19. してんのかされてんのか
    やってんのかやらされてんのか
    生きてんのか生かされてんのか

コメントを残す