ヤマレコなら、もっと自由に冒険できる

Yamareco

HOME > Dr.Makobeの『未来の地球科学』さんのHP > 日記
2023年02月24日 12:12『驚異か相棒か』AIと新技術全体に公開

【チャットGPT】その1: 未来への懸念?

・ 「OpenAI」が開発した、文章生成Aiロジック「GPT−3」を使って、利用者の質問に、データ収集から、文章自動作成して、AI自動回答するシステム。

・ これまで、人が、ネットで情報取集するのに、Google検索で、関連文書を検索、それらの全てを読んで、理解し、要約して、文章を作成する。

  そんな一連の作業(ググって調べて理解して、自分の考えをまとめていた、人の知的作業を…)人が全く考えることなしに、問いを投げかけるだけで、AIが膨大な収集データーから(ロジックが勝手に)整理要約した、回答文書を、全自動で作ってくれて、結果だけを返してくれる。

・ これまで人が何日も、何カ月も、何年もかかって、やっと入手し、理解し、考え続けて到達できる、結論に、わずかな時間で、あっさりと自然な文章として、答えてくれる。

 もう、本で勉強したり、ググって調べたりが、古臭い行為として
「 平成かよ!」と笑われる… そのうち、考えることもいらなくなってくるか?  

-------------------------------------------------

・ 今回のカテゴリ名を考えた時、
 始めは『未来の驚異』と入力したのを
 書き終わってから『 目前の驚異 』に変更しました。

・ 未来の新しいテクノロジーであって、同じことを人が行うのと比較して、人のレベルでは到底かなわない、これを使うことで、あまりに簡単に結論が手に入ることで、「人」が自分で考えることをしなくなって、退化するプロセスに突入したことを、人は自覚しなくてはならない。

( 手塚治虫の「ロボット3原則」のように、どこかで、人に対する運用的精神的、歯止めを設けないといけない気がします。)

・ 開発技術者が恐れた事態が、今、私たちの目の前に迫ってきていることを感じます。

------------------------------- 

【GPT】、Genertive Pretrained Transformer 文章自動作成モデル 

・ GPT−2は、そのあまりの強力さに、開発陣が悪用を恐れて、論文の公開を延期した。… とある。
 ( この恐れは、GPT−3になって、解消したのだろうか。)

・ ここでの初代のGPTが1億のAiパラメーターロジック、に対して、GPT−3では1750億のAiパラメーターロジックに、拡大。
 ( 1000倍になるのに、どれくらいの期間が必要だったのかはわからないが、人は、そんなには進化できない、いずれは負けを認めるしかなくなるのだろうか? )

GPT:
https://zero2one.jp/ai-word/gpt/
お気に入りした人
拍手で応援
拍手した人
拍手
訪問者数:617人

コメント

こんにちは。

すでにChatGPTを存分に利用させてもらってます。
今月中にGoogle bardのリリースについてもウワサされています。

想像・予想を立てた回答に近づける問う力と、提供された回答のファクトチェックがより一層必要になると感じています。

LLMの初期から現在の段階まで15年かかると予測されていたことが、結果的に数年で到達してしまったという研究者の記事を読みました(自己学習能力が人の予想をはるかに上回っている)。

さてこの先の進み方は果たして…?
2023/2/24 12:54
MIKA_DUKI さん こんにちは。
・ もう経験されておられるなんて、すごいですね。
私はまだ使ってみたことないです。

・ うたい文句だけでも、これまでのネット引用ルールや、著作許諾権等、どうゆう仕組みで管理コントロールしていくか、法的整備も必要な気がします。

・ 複数のAiと自分の意見が異なった時、それに抗うことの大変さをつい想像してしまいます。( やってみてから言えよ!って、言われるかもしれませんね。)

・ 私の好きな、地球科学の分野は機械学習システムで、一気に進化するのでしょうか。
2023/2/24 13:06
ChatGPT(他のLLM含め)の存在についての疑問などはに直接ぶつけてみています(Chat GPTはどう考える?、○○についての意見は?…等)

法の遵守や政治的立場の中立、自身(LLM)は機械的なもので感情はない、と言った点は主張してきます。

使用開始から1ヶ月で成長を感じるくらいなので、1年後の想像もつきません。
2023/2/24 14:15
MIKA_DUKIさん さん コメント有難うございます。
あふれるデータの中から「真実かどうか」を判断するのは、人間でも難しいですね。

・ いい例が私の日記です、ファクトかフェイクかは、
 眉唾率85%をうたい文句にしているほどなので、
書いた本人でさえ真否の判断がつきません。

( まして、雑多にあふれる情報全てについて、
Aiが真否の判断ができるとは到底思えません。)

・ もしAiが世界を見通す真否の判断ができるのなら、
 私の地球科学の中の「15%の真実」を探し出してくれるとうれしいのですが…。 
2023/2/24 15:14
どうもこんばんは。
私もエンジニアの端くれなので、コンフィグの正誤や設定の妥当性などについてchatgptに確認してみたりしています。(「○○という設定を投入した場合に××というコンフィグになるか正誤を確認して」とか、「○○の閾値の平均的に設定されている値と、その値の妥当性となる根拠資料を出して」とか)

汎用機器の公開情報についてはほぼ読み込んでる節があり、センパイの胡乱な知識よりかはよっぽど正確に答えてくれるなーとセンパイの立場から思います。

今のところ正確な答えに辿り着くためには正確な質問が必要そうで、その回答を理解する人間側もそこそこ熟練が必要だなと感じますが、それも時間の問題で解決されるだろうなとも思います。

こうなると熟練度を上げるよりもロジカルシンキングやクリティカルシンキングで以下に正しい質問を与えられるのか?が要点になるのではないか、とも思えてきます。

抽象を具象化して実際の値に落とし込むような設計業務はAIに任せた方がミスが無くなるのでは?とか、体のないAIのためにケーブルや電源や筐体を用意する物理作業者が結局生き残るのかな、とか本当に色々と考えさせられてワクワクします。

chatgptの取り扱い方を知っている人と知らない人とではかなりの格差が生まれてしまうだろうなということで、後輩たちには積極的に広めています。
2023/2/24 17:59
はやぶさ さん こんばんは コメントありがとうございます。
・ いただいたコメの中の「センパイの胡乱な知識よりかはよっぽど正確に…」で表されている部分が、 最も大きく影響を受けてくるであろうと思われる「懸念」の部分です。
 教育現場に於ける、教える側の気持ちと、教えられる側との形態が、一番影響を受ける部分でしょう。

・ 学ぶ側から見れば、たしかに目先の教育者(先輩の)スキルに影響されない、 もれのない情報が得られてメリットに見えるかもしれませんが、
 反対に教える側の視点でみると、Aiのもたらすものが、個人のスキルでとうていたち打ちできないものになってきたとき、知識を持たないものに、懇切丁寧に教え、育てていくには相当な努力と信念を必要とします。

・ 結果的に教育システムそのものの、教える側の人材と熱意の維持が困難になってくると予想されます。
( 先生とゆう「人を導き育てる」職業に対する魅力がなくなって、そこを目指そうとするものがなくなってしまいます。)

・ 人から人へ、知識も、信念も、伝統も、心も、時間をかけて過去から受け継いできたものはなんだったのか。
 それとも、私がずっと自問自答しながら考え続けてきた、自然の真理の答えを、 chatgpt に質問したら、納得のできる答えを聞くことができるのでしょうか。

なにはともあれ、まずは体験してみなければいけませんね。
2023/2/24 22:36
makobeさん
おはようございます。

教育的な立場からするとそうですね、一般的な生徒を育てるのは人間でなくても良くなっていくだろうと思います。(自分である程度の一般解を求められてしまうため)

ただ、何回かchatgptを利用してみて思うのは、chatgptが答えてくれる回答の質は質問者の質に直結するということと、その正誤を判断するのは結局人間側だということです。
一般解ではなくもっと複雑で専門的な回答をchatgptと推敲するためには、人間側もきちんとロジックを理解しなければなりません。

上記の観点から、未来の"人が人に行う教育"は一般人を普遍的に育てるものではなく、エリートやプロ、スペシャリストを育てる教育となるのではないかと思います。

また、人が何に興味を示すのか?というのは遺伝子で決まりますが、遺伝子の発現するしないのパターンが無限にあるそうです。その興味を発掘してサポートする段階では、他人が実際にやらせてみる、興味を引くものが身の回り以外にあると教えることが重要だと思います。

個人でchatgptにのめり込んでしまうと視野が狭くなるので、視野を広げる教育がより必要になるのではないか…?と思います。
2023/2/25 6:26
はやぶさ さん おはようございます。

・ 「 回答の質も正誤の判断も人次第 」
 … そうかもしれませんね、どう使ってどう生かすかも人しだいなんですね。

・ 「 個人でchatgptにのめり込んでしまうと視野が狭くなる〜 」
 … 今のネットとSNSと検索システムだけでも、結構「のめりこんでいる自分」を感じます。

( chatgpt も、やってみると、手放せなくなるのでしょうか。)

・ 一般解だけでなく、将来は専門分野に特化したAiエンジンに分化して、近い将来には仮想アインシュタインと会話ができるようになるかもしれませんね。

・ 文章から、音声での会話になってきたら、生身の先生よりも手強い存在になるかもしれませんし、その応答ロジックが「常に一般解」だけにとどまればいいのですが、 (心配性な年寄りの発想では)、自然な自己学習の成長から(故意かもしれません)、なにかしらの「恣意的要素」が入り込む(織り込まれる)可能性もあるかもしれません。

・ 生まれたばかりの新しい世界に触れるのは、恐ろしさもありますが、 自分の世界がこの先どう広がって行くか、楽しみでもあります。
2023/2/25 8:03
makobeさん、こんばんわ。
小生は「ChatGPT」を初めて聞きました。
よってトンチンカンなコメントですがお許しください。

弱いですが将棋は小生の趣味の一つです。
15年程前でしょうか、将棋のAIがどんどん強くなりトップ棋士に迫ってきた頃、AIがトップ棋士に勝った時に将棋は終わると危惧されました。ところがAIがトップ棋士より強くなった今、かえって将棋が面白くなった感じがします。棋士(人間)には分からずAIに発見できる指し手があったり、それまで定跡と考えられていたのがそうでなかったりで良い意味で革命が起きている様相です。そして棋士はAIレベルの完ぺきな将棋を要求され、そのようなトップ棋士の対戦を自宅PCでライブ観戦できます(テクノロジーの発達のおかげです)。
ライブ観戦時にAIによる「次の一手」が画面に出ます(もちろん対局者は分かりません)。AIが予想する最善手と2〜3回違う手を指しただけで勝敗が決まることもあります。両者とも試験で100点満点を取り続け、2〜3回80点を取ったら負け、そんなトップ棋士の対戦を見ていると「人間って凄いな」と感心します。

「ChatGPT」について小生は全く知りません。
(将棋のAIと関係ないと思いますが、)ChatGPTの発達でさらに素晴らしい社会になることを願っています。

長文で失礼しました。
2023/2/24 19:35
fujikita さん こんばんは コメントありがとうございます。

使ってみる前から、懸念のほうが強い私は、「頭がかたい年寄りなだけ」なのかもしれません。

・ 将棋のことはよくわかりませんが、車でいえばアイサイトや自動運転など、 車の知識や運転技術も必要なく、全てを自動にゆだねる時代が来るのかもしれません。

( テレビで手放しして車を走らせて「すごい」と言ってるCMを見ると、
 自分には到底そんな芸当はできませんし、そんな怖いことをしてみたいとも思いません。
 機械もコンピューターもAIも、人が作った物ですので、故障もあれば誤動作もします、そんなものに、手放しで命をゆだねることの恐ろしさが先にたってしまいます。 )

・ Aiどころか、今現在でもATさえ違和感が消えず、これから先もマニュアルの車を乗り続けると思います。
 時代がさらに進んで、全てが自動になったとしても、事故が起きれば、すべてがドライバーの責任です。
 ( たとえドライバー自身が、どうしてそうなったのかが理解できなかったにしても、責任をとらねばなりません。)

・ 私は人から「xxさんは、頭が固い」とよく言われます。 そんな時はにっこり笑って「はい」と答えます。 

トンチンカンなお返事で、すみません。
2023/2/24 23:10
プロフィール画像
ニッ にっこり シュン エッ!? ん? フフッ げらげら むぅ べー はー しくしく カーッ ふんふん ウィンク これだっ! 車 カメラ 鉛筆 消しゴム ビール 若葉マーク 音符 ハートマーク 電球/アイデア 星 パソコン メール 電話 晴れ 曇り時々晴れ 曇り 雨 雪 温泉 木 花 山 おにぎり 汗 電車 お酒 急ぐ 富士山 ピース/チョキ パンチ happy01 angry despair sad wobbly think confident coldsweats01 coldsweats02 pout gawk lovely bleah wink happy02 bearing catface crying weep delicious smile shock up down shine flair annoy sleepy sign01 sweat01 sweat02 dash note notes spa kissmark heart01 heart02 heart03 heart04 bomb punch good rock scissors paper ear eye sun cloud rain snow thunder typhoon sprinkle wave night dog cat chick penguin fish horse pig aries taurus gemini cancer leo virgo libra scorpius sagittarius capricornus aquarius pisces heart spade diamond club pc mobilephone mail phoneto mailto faxto telephone loveletter memo xmas clover tulip apple bud maple cherryblossom id key sharp one two three four five six seven eight nine zero copyright tm r-mark dollar yen free search new ok secret danger upwardright downwardleft downwardright upwardleft signaler toilet restaurant wheelchair house building postoffice hospital bank atm hotel school fuji 24hours gasstation parking empty full smoking nosmoking run baseball golf tennis soccer ski basketball motorsports cafe bar beer fastfood boutique hairsalon karaoke movie music art drama ticket camera bag book ribbon present birthday cake wine bread riceball japanesetea bottle noodle tv cd foot shoe t-shirt rouge ring crown bell slate clock newmoon moon1 moon2 moon3 train subway bullettrain car rvcar bus ship airplane bicycle yacht

コメントを書く

ヤマレコにユーザー登録いただき、ログインしていただくことによって、コメントが書けるようになります。
ヤマレコにユーザ登録する