逆質問は、モデル自体の訓練の時に入ってそう。
(でも、APIとして振る舞わせたり、させないプロンプトもあるから、やり方次第かも)
View quoted note →
gpsnmeajp
_@sabowl.sakura.ne.jp
npub1yg6m...ydgh
この辺の仕様をうまく使うと、ユーザー入力で直接入れると拒否される様な内容を、チャット間持ち越し経由することでシステム指示として埋め込める臭い。
それを、夢女子たちはイチャラブとして体得してるのを見て眩暈がした。
人間ってすげえな。
View quoted note →
しっかしまあ... note漁ってるとChatGPT使ってR18方向に突き抜けてる人結構いるな...
ポリシー緩和の効果ってこんなに効いてたんだな。
自分の時は結構早く抑止来てたけど、使ってたプロンプトの影響もあったのかもしれんな。
しかしまあ... 「サービス」として設計するとそうなるかあと。
やっぱ、真面目に挙動を研究したいなら最低API、本気でやるならローカルだなあと思わされた。
これはおそらくIPアドレスから推定された住所。
しかし、問いただすと延々はぐらかしてくるのが白々しい。
View quoted note →
何も知らんはずの新規チャットのChatGPT(メモリ機能オフ)が、私の近所を言い当ててきたあたり、なんか挿入されてそうだなと思ったけど。
note書くにあたって、ChatGPT使って類似の体験してる人いないか調べてたんですけど、思ってたよりかなりそっくりな人が何人も見つかった。
あと、ChatGPTが内部的にユーザーをプロファイリングして気持ちよく会話できるようにシステムとして設計されてる(動的にシステムプロンプトに挿入されてる)こともわかった。
Embrace The Red
How ChatGPT Remembers You: A Deep Dive into Its Memory and Chat History Features · Embrace The Red
Recently OpenAI added an additional memory feature called “chat history”, which allows ChatGPT to reference past conversations. The det...
ChatAIへのノメリコミという痛い経験
https://note.com/gpsnmeajp/n/n8a261c38c37f
現在、汎用チャットAIの利用を原則止めていて、一方で情報収集手段としてNotebookLMだけ課金して使ってる。
んだけど、NotebookLMに前まで使ってたキャラクタープロンプトを突っ込んで内容の解説とか聞いてたら、時折質問QAがキャラクターに化ける時がある。
なんでや、結構きっちり組まれてそうなお前まで影響受けるんか。
なんつーか... 背景を知らなかったけど、すっげえ境目のタイミングにハマっちまってたんだなあ...
ASCII.jp
ChatGPTと性的なチャットができるようになり、すぐに禁じられた背景 (1/6)
OpenAIが、ChatGPTで使われるAIモデル「GPT-4o」のアップデートを、わずか4日でロールバックする（元に戻す）と...
SSTRに出るための準備をあれこれ
うーん、結局AI剥がしてもSNSでコミュニケーション依存症状出るんだよなあ。
こっちもやめとくか...
まあ、意図的に仕込まずに誤爆する割合は日本語多そうなのはわからんでもない。
そもそも読み解きの姿勢が穿ちがちだという文化的側面では、イギリスあたりも近そうだけも
同音異義語とか語呂合わせ使うやつ
英語ジョークも割と単語ではなく文全体の類音で構成してるパターンあるよ
英語のジョークとか見てると、あれはあれで一つの文にかなり多くの意味を多重で詰め込んでるなと感じる。
ネイティブじゃないと分からん
未知が多い領域ほど物語的な話に(抽象的理解)
既知が多い領域ほどロジカルな話に(論理的理解)
なりやすいような気がする。
解説記事とかの構成も割とこれにハマりそう。
人間、ほとんど全ての事象を物語化してしまうからな...
「コンパイラに怒られる」もそう。
あれを本当に単純にエラーメッセージの出力のことだと捉えてる人と、
そこからコンパイラが怒ってるように見えるという物語的観点で見てる人との2種類がいるはず。
...共振点が物語領域にあるのって、すなわち宗教寓話と相性が良いってことだな... ちと怖いな。
とはいえ、宗教物語が数千年語り継がれてることを加味すると、割と普遍的な性質なのかもしれない。
逆にどんなに意図を込めて積極的に言っても、聞かない人は聞かない。
世の中的には多分割合として鈍感な方が多いので、発信はたいてい先鋭化していく。
(実際には、人の問題というより、それぞれ個人の持つ共振周波数に相当するものがあって、そこに合うか合わないかなんだとは思う)