ChatGPT等AI依存

https://news.yahoo.co.jp/articles/4ac180c1908023ac2ca582be991eacb66fe68755

さすがにここまでという気もする一方、たしかに日本だとこういうのが多いだろうなあという、いやな気もする。ところで生成ＡＩリスクとして素人ながら思っている問題を、重要と思う順にあげてみます。

１　生活に深入りした段階で不都合が生じること。ＩＴ（ウェブ）もそうですが、通信乱れや外部からの悪意の侵入で、生活基盤が乱されること。ＡＩはまだまともに生活内にはいってきていない（し、回答信頼性等から企業による外部向け利用は日本では限られているが（追記）アメリカではテスラが実装開発中のようです　
https://diamond.jp/articles/-/371000?page=4　
https://www.sompo-ri.co.jp/topics_plus/20241015-14605/　
）が、今の段階で冗長性等の確保を考えておく必要があると思う。

２　不正確さ。いわゆるハルシネーションで、いくらニューロについて素人勉強してもなぜこんなハルシネーションが、しかもバージョンアップのたびに深刻化するのか、わからないのが不気味。ドイツでＡＩを根拠が出ないからという理由で使用制限していたのを、「生身でも根拠なんか薄弱」「ゲームなどで典型だが生身では思いつかない異次元手を作る強みがある」と嗤っていたが、少々自信がなくなってきた。

３　精神依存。ミラーリングとかエコーチャンバーといった現象によく似て、とにかく自分に気に入る環境ができてしまう（ある争点について過去に自分が出した仮説を（ありもしない）根拠付きで正しいとし、反対説（こちらが根拠ふくめむしろ優勢）について完全無視したことには、ぞっとした。まわりが陰謀をたくらむ宦官だらけの皇帝のような気分）ので、よほどそれに気を付けていないと（とかいうのだが、現実問題として、多くの人がこの「居心地よさ」の魅力に抗えず中毒状態になるのではと思っている）。

山に登っていると高確率でプログラマーやＡＩ事業に参画している方におめにかかります（時間とお金との自由度が一般サラリーマンより高いのかなあと）。将来的なリスクについてどう考えておられるか、よければコメントおねがいします。

コメント

Goddy

hrkaokiさん　
おはようございます。はじめまして。

私、プログラマーでもAI事業に参画、投資も
していない通りすがりですが、
コメントしたくなったので失礼します。

AIを推進する側にとってはリスクというより、
人の弱さや勝手さは、むしろメリットでしか
ないので、AIを推進する側に期待するよりは、
利用する個人のリテラシーに期待せんとかんの
ではと思いました。

AIという単に文節や文節に則った制御を
生み出すだけの実体のない存在に、
実存を感じてしまう人間の愚かさと
実存を感じさせようとする人間の浅ましさ
の織りなす風景が時折、ニュースでかいま見れます。

なにもAIに限らず実在する人と人とのかかわりも
実在するのは人だけでその関わりが、誤解を通して
成り立っているところは、似たようなものがあるん
じゃないかなぁと思ってます。

失礼しました。

はる９９９

こんにちは。

時代はコロコロ価値観が変わっていくし、誤ったら修正、を繰り返していると思ってます。
自分たちが生み出しといてなんですが、もう放たれてしまった以上、どうなるかは
よく分からないです。（なんども誤って進む・・・だろうとは思います。）
そこを考えろというのは酷（考えても多分修正できないから。）。
それこそ次代の人に任せないとってことかなと。
恐らく何世代も巻き込んで進化していくんだろうなーと思ったりします。