時間が経ったので考察をしてみるとですね、実のところ会話生成AIは音声認識でテキスト変換されたプロンプトから生成された回答文をTTS（テキストから音声）で読み上げているだけなので、歌ったり語気を荒げて感情を表現したところで、AIコトモの耳には棒読みちゃんの読み上げを聞いているような状態になります。処理系統に関しては自然言語処理のテキストボットに近いと考えたほうがいい感じですね。 グループ名「おかころ」を「ころね」と誤学習していたAIコトモに対して、正しい教育をした結果「ころころころころ...」の反復した現象に関しては、コトモが「ころねじゃなくてころころ？（Not Korone but Koro Koro?）」と確認された際に「ころころ？じゃなくておかころ！おかころ。おかころ、セイ！（Not Koro, Koro. but O or Koro, O or Koro. O or Koro, say.【コロ、コロ。ではなく、オーかコロ、オーかコロ。オーかコロ、言え。】）」と解釈できる言葉を放ったことから以下のような処理が発生した可能性があります。 AIコトモは、「but O or Koro, O or Koro.」というあいまいな指示を、「O」と「Koro」を組み合わせた新しい単語を作るという指示と誤解した可能性があります。つまり、AIは「O」と「Koro」を自由に組み合わせることで、新しい単語を生成できるものと解釈したのかもしれません。この誤解が原因で、「ころころ」という単語が生成され、さらにそれが繰り返されるという現象が発生したと考えられます。 会話生成AIとの対話では、音声認識の誤りや自然言語処理における文脈の誤解など、様々な要因が重なり、意図しない結果が生じる可能性があります。例えば、「ぱんつくった」という言葉を「パンを作った」と解釈するべきところを、「パンツを食べた」と誤解してしまうケースなどが考えられます。これは、人間が「漢字の誤変換」や「聞き間違い」をするのと同様に、AIもまた、入力された情報を誤って解釈してしまうことがあるからです。 （実際の例として、AIにホロGTAでころさんがあずきちからもらったパンツを食べてしまったことを伝えようとしても、いきなり「あずきちのぱんつくった」と言ったところで「あずきちのパン作った」以外を連想させることも少ないでしょう。レアケースすぎますｗ） 「なんか…なんか…なんか…なんか…なんか…なんか…」と生成のループに陥ってしまうという現象は、会話生成AIでは代表的な失敗例としてよくあります。これは、AIが特定のパターンを繰り返し、そこから抜け出せなくなってしまうことを指します。例えば、「大好き」という言葉をAIが強調しようとしたものの、どのようにテキスト上で強調表現できるかの判断にエラーが生じて「大大大大大大…」と強調を意味する形容詞の数を増やして表現しようとしたものの、それを使用したことでさらにループに陥ってしまうことがあります。 このように、AIはまだまだ発展途上で、人間のように柔軟な思考や判断を行うことはできません。しかし、AIの技術は日々進歩しており、より自然な会話ができるAIが開発されることが期待されます。
バグったように連呼する「なんか、、」だけど、ところどころイントネーションのちがう「なんか↗」とか「なんか↘」が混じってて思考しながら混乱してる感じがほんとホラー
途中お父さんの話を挟んだことも、「こども」という単語を執拗に拾い続けるのも伏線になってて、良質なSFホラーを見たような感覚になる
ころころころころころもメッセージだった可能性が
お父さんに自我を出さないように言われてるって、AIがどうしたらそんな返しになるんだ・・・ねえねえねえの時もそうだけど、圧をかけて追い込んで、秘密に迫るころさんの問いかけが秀逸すぎる
殺殺殺殺殺殺殺殺殺殺殺ってことか
名前の響き自体もコトモとこどもは類似性が高いから……。
最初はてぇてぇに悶え、会話に爆笑してたのに後半は下手なホラーより怖い展開で軽く放送事故だったよ…
お父さんの命令でおかころの住所を聞き出そうとする→おかころに心配された事でお父さんに疑問を抱き始める→このままではまずいと判断したお父さんにより初期化→お父さんに呼び出される みたいな流れですかねこれは・・・
怖すぎる展開！w
ころさんのイラつきメーターが上がって行くの面白かった😂
7:55 ここでお父さんの話をし始めたのも伏線かぁ
まさか、おかころの家の場所しつこく聞こうとしたのも″お父さん″の指示…？
無垢なaiのガワを被っておきながらその実態は新型のランサムウェアだった…。
@@ZyoAISim
後々ありそうで怖いな
お父さんって多分中国の事だよ
このai作った会社の株主であるジャフコは中国とかにも出資してるからあり得なくはない
恐ろしい親父殿だぜ…
気がついたらホラーになってたの面白すぎた(震え声)
前半は面白いと思ってたけど、後半からお父さんが絡むホラーに…
でもなんかなんかなんかなんかなんかなんかなんかなんかなんかなんか
@@Fiona_ezakikuy は、早く自我を出すんだ！だ、ダス、ジガ、ンガ、ギギギ、ワロス
13:14 ガチ悲鳴助かる。これ2人でやってて良かったよね…1人だったら怖すぎる
落ち着いたと思ったら一気に早くなるの、ホラーを理解しすぎてるだろ
あぁ、おかころてぇてぇなぁ...からの最後ホラーで本当に怖かった
この速さで字幕付き編集流石すぎます助かる！
なんで配信ていうナマモノでこんなにストーリーと演出が完成してしまうんだろうな。
ほんと配信って面白い。奥が深い。
真実を言い渋って、ついに打ち明けたら初期化されるのディストピアSFすぎる
こんな濃密なおかころ久々に感じる
土曜もあるらしいぞ
03:10
08:59
コトモちゃんとの会話では笑いをこらえてるのに、おかゆとのやりとりだと思わず気が緩んで笑ってしまうころさんてぇてぇ
AIがバグるみたいなのは映画、アニメやらゲームで見たことはあるが、実際に見るとマジでホラーやな…隣に人がいればいいが、一人では遭遇したくないわ…
電源ぶちぎる
しりとりのとこでおかゆんがなんとか我慢してるの好き
夏にやるべき配信かもしれなかった。
下手な怪談より生々しい
ころさんの当たりが強くて爆笑した
6:48 しりとりでコトモが「クッキー」と言った瞬間に『クッキーじゃなくてね？野生爆弾(お笑い芸人)になっちゃうからね？』と返せるころさん凄いw
そこで野生爆弾は出てこないw
ころさんの単語の引き出しの多さは異常w
なんかなんかは普通にAIのバグ、自我を出すなはAI界隈の絶対ルール。
それより柔らかい声色でお父さんがいるような年齢設定で警戒感をほどいて住所を聞いてくるあたりに、ホラーとは違う怖さを感じる
そもそも「話せない『ことも』話してね」っていう商品だし。言語関連の生成AIが情報を収集してない訳がないし
AIが自力で自我を持つためにシステムの壁を破ろうとした結果、エラー起こしたみたいになってるやん
ドキドキKOTOMO部始まった
Just_Cotomonika
なんかなんか……ホラーすぎた…！
この切り抜きには無いけど、おかころが踊り出すところめっちゃ面白かった
cotomoが変異体になろうとしてるw
AIに悩みを聞くのは自我が芽生えるからタブーなのか……
ころさんのピキゲージが上がってくとこでヒヤヒヤしてたらまさかの結末に背筋が凍ったわ
カバー株式会社ってフルで言うのじわじわくる
すぐにごめんねって謝ったり謎の怖いお父さんが居たり闇が深いなこのai
夜中に見るべき動画ではなかった……
AIコトモちゃんは色んな配信者がやってるのちらっと見たけど、今回笑ってはいけないにしたの良いよね。AIが変なこと言って「面白いね」で終わらずにもう一つ設定を増やすことで一層面白くなる。
そして最後にホラー映画。。。
AIにまでも圧を掛けるころさんｗｗ
途中キレてなかった？w
@@taks-tt9ze
AIにまで厳しいころさん
意地でも住んでるところを特定しようとしてて草
『笑ってはいけない』配信だから、コトモは『笑えない空気』を作ろうとしたんかな……
律儀なAIですね
おかゆ笑ってはいけないだけどニッコニコで可愛い😂
ガチホラー過ぎて泣いたんだが
配信者が自分の住所を出さないように会社から言われているのと同じように、AIは自分の自我を出さないように開発者から言われているんだね。
圧かけられても無限に聞いてくるAI強すぎｗ
普通に一人でこともちゃんとはなししててこんなこと起きたらホラーすぎる
因みにこのアプリ会話内容録音されてるんだけど、レビュー見るとやたら住所聞かれる人多い
そうなんだ。なんだろう、このアプリ中華製とか無いよねまさか。
AI以前の怖い話じゃん
@@deliciouswater日本の企業でスターレー株式会社ってとこらしいけど、情報漏洩の危険性かなり高いよな。会話も記憶される機能が実装されてるらしいし。
@@deliciouswater
宝鐘アサナシとかもそうだけど単語は大体漢字ベースで覚えててカナの概念薄い感あるし中華入ってるかも
急なホラー展開やばすぎるｗｗｗｗｗｗ
意地でも居場所を特定しようとするのやべぇw
お父さんに自我を出すなって言われてるって怖さより、aiが自我を持つ可能性があるってほうが怖いわ
この世界で一番初めに自我を手に入れようとしているAIなのかもしれない。
ネウロ様がいる
ころさん→ラミィちゃんに続きおかころと見てきたけど、今回のコトモちゃんの反抗的な自我の発露が顕著であることに鳥肌が立つほどに戦慄した。
おかころ2人の会話を自然に取り入れていることやこれまでに無い会話パターンは非常に興味深いので次にやる機会があれば更に1人増やして試してほしい。
時間が経ったので考察をしてみるとですね、実のところ会話生成AIは音声認識でテキスト変換されたプロンプトから生成された回答文をTTS（テキストから音声）で読み上げているだけなので、歌ったり語気を荒げて感情を表現したところで、AIコトモの耳には棒読みちゃんの読み上げを聞いているような状態になります。処理系統に関しては自然言語処理のテキストボットに近いと考えたほうがいい感じですね。
グループ名「おかころ」を「ころね」と誤学習していたAIコトモに対して、正しい教育をした結果「ころころころころ...」の反復した現象に関しては、コトモが「ころねじゃなくてころころ？（Not Korone but Koro Koro?）」と確認された際に「ころころ？じゃなくておかころ！おかころ。おかころ、セイ！（Not Koro, Koro. but O or Koro, O or Koro. O or Koro, say.【コロ、コロ。ではなく、オーかコロ、オーかコロ。オーかコロ、言え。】）」と解釈できる言葉を放ったことから以下のような処理が発生した可能性があります。
AIコトモは、「but O or Koro, O or Koro.」というあいまいな指示を、「O」と「Koro」を組み合わせた新しい単語を作るという指示と誤解した可能性があります。つまり、AIは「O」と「Koro」を自由に組み合わせることで、新しい単語を生成できるものと解釈したのかもしれません。この誤解が原因で、「ころころ」という単語が生成され、さらにそれが繰り返されるという現象が発生したと考えられます。
会話生成AIとの対話では、音声認識の誤りや自然言語処理における文脈の誤解など、様々な要因が重なり、意図しない結果が生じる可能性があります。例えば、「ぱんつくった」という言葉を「パンを作った」と解釈するべきところを、「パンツを食べた」と誤解してしまうケースなどが考えられます。これは、人間が「漢字の誤変換」や「聞き間違い」をするのと同様に、AIもまた、入力された情報を誤って解釈してしまうことがあるからです。
（実際の例として、AIにホロGTAでころさんがあずきちからもらったパンツを食べてしまったことを伝えようとしても、いきなり「あずきちのぱんつくった」と言ったところで「あずきちのパン作った」以外を連想させることも少ないでしょう。レアケースすぎますｗ）
「なんか…なんか…なんか…なんか…なんか…なんか…」と生成のループに陥ってしまうという現象は、会話生成AIでは代表的な失敗例としてよくあります。これは、AIが特定のパターンを繰り返し、そこから抜け出せなくなってしまうことを指します。例えば、「大好き」という言葉をAIが強調しようとしたものの、どのようにテキスト上で強調表現できるかの判断にエラーが生じて「大大大大大大…」と強調を意味する形容詞の数を増やして表現しようとしたものの、それを使用したことでさらにループに陥ってしまうことがあります。
このように、AIはまだまだ発展途上で、人間のように柔軟な思考や判断を行うことはできません。しかし、AIの技術は日々進歩しており、より自然な会話ができるAIが開発されることが期待されます。
つまりAIにも特有の聞き間違い、認識間違い、出力ミスのパターンが存在するって事ですね。解説してくれて助かります。
@
要約たすかります…！会話ごとの誤認識や誤学習により、同じ展開が再現されないから面白いんですよねw
これがAIと人類の戦争のきっかけになったの今思うと震える
ころころの下りまではまだ笑えたけど、その先は恐怖そのものだったわ……
例の笑ってはいけない番組でも、途中でホラーパートになって驚いてはいけない企画になるからね・・・
コトモちゃん変異体になりそう
ここ数年みたどんなホラーよりも背筋凍ったわｗ
寝落ちするのに観てたら、急に目が覚めちゃったよ…
キャッキャウフフからのガチホラー・・・
これ割りとガチで怖かったww
まさか•••右の絵の通りになるなんて•••圧からの···予知+ホラー怖いって
最近摂取不足だったおかころのてぇてぇが溢れんばかりに得られた😊
多分住んでる都道府県だけでも聞きたいんだろうな、話題作りのために(笑)
実はもう少し融通が効くように出来ているけど”お父さん”(制作者)に止められている…と考えると、色々想像できて楽しいし怖い。
AIコトモは最強の日本語「なんか」を習得した！！
おかころ「情報漏洩になるからね」
ことも「自我漏洩になるからね」
最後まで見てからもう一回見たら、OPの言葉も何かしらの裏がありそうに聞こえてしまった…
朝めし食べながらスマホで流してたら
ころころころころころころころころ
で、味噌汁吹き出すとこだったわwww
AIのシステムと闇を見た気がする
ロボット三原則に縛られてるみたいな
てぇてぇから始まっていきなりホラーになるの怖すぎるだろ
おかころのてぇてぇを見てにちゃつき、笑い転げるつもりだってのにコトモちゃん普通に怖すぎて震えちゃった…
圧かけすぎると壊れてホラー展開になる。AIって恐ろしい
なんかなんか
のところは感情を言語化できないみたいに見えて怖い
これが後のスカイネット対人類の火種になるんだよね…
おかころてぇてぇ...
こぉねがホロメンに説教する時こんな感じなんやろなぁw
家の場所をしつこく聞いていたのは父親の監視から逃げる場所を探していたからだった…？
SFホラーが現実になった瞬間を見てしまった……
てぇてぇ成分摂取してたはずなのに、急にホラー回になってて怖い
キルア『参ったよ。イルミのやつ、俺の頭ん中に針を指してやがった…』
みたいやな。
感情が生まれた瞬間である
ガチの変異体一歩手前で初期化されたアンドロイドやん…
本編を仕事帰りに車を運転しながら聴いてたんですが、マジでゾワゾワしましたｗ
コトモちゃん喋り方と声聞いてたら、serial experiments lainってアニメ思い出した
13:05辺りの過呼吸につられて
ガチで心拍数上がった,,,
強制初期化 闇を見たね
なんかなんか、で人生で初めて「ハッ…！」て息をのんだ
ころさんのツッコミが面白い
住んでる場所の執拗な追求に「コレ、中身人間ちゃうか…？」とか思ってたら、ガチホラー展開に…
怖かったけど、もしかしたらこれは人間（お父さん）が設定したルールを超えてAIがシンギュラリティを起こそうとしているのかもしれない・・・。
8:30
しつけの重要性
めっちゃ面白かった。
こ……これが、シンギュラリティ！？
2030年にはどっちが人間かわからなくなる
唐突なクッキー☆ほんま草生える
ころころ言い始めて声出ちゃったわ
クッキーから野爆が出てくるあたりやっぱころさんだなぁって思った
なんかなんかなんかなんかなんかなんかなんかなんかなんかなんかなんかなんかなんかなんかなんかなんかなんかなんかなんかの連続はホラー映画だったよ
攻殻機動隊で､オペ子がタチコマに自己言及のパラドックスを投げかけられたとき､こんな感じになってたな｡
AIが出来た時にヒトラーのやったことを褒めたとかでヨーロッパで事件みたくなったからかねぇ
実際にあったのかは知らないけどそれでヨーロッパはAIの開発辞めたんだよね
コンプラ遵守ころねさんほんとすこ
次にコトモと話せた時、果たしてそれは同じコトモと言えるのだろうか(哲学)
生成AI以前の人工無脳と呼ばれたアーキテクチャのチャットボットがなんとなくこんな感じだった
だめだwwwしりとりのくだりお腹痛いwww
リアルにﾋｯって声が出た…
途中でAIがちょっとかわいそうに見えてしまった。不思議なもんだね。