ChatGPT とは？

GPTは「文章の続きを予測する」だけの汎用モデルなんだ。ChatGPTはそのGPTをベースに、人間との対話が自然になるようRLHFという技術で調整したものだよ。だから質問に答えたり、指示に従ったりするのが上手なんだ。

まず大量のテキストデータで事前学習して言葉の基礎力をつけて、その後に人間のトレーナーが「この回答は良い・悪い」とフィードバックを与えて微調整するんだ。この人間のフィードバックを使った強化学習がChatGPTの秘密兵器だよ。

残念ながら間違えることもあるよ。「ハルシネーション」と呼ばれる現象で、もっともらしいけど事実と違う内容を生成することがあるんだ。だから大事な情報は必ず別のソースで確認する習慣をつけようね。

一番重要なのは機密情報を入力しないことだよ。デフォルトでは入力内容がモデルの改善に使われる可能性があるから、社内の機密データやソースコードを貼り付けるのは危険なんだ。企業向けにはChatGPT Enterpriseやチームプランのように入力データをモデル学習に使わない契約もあるよ。実は「プロンプトインジェクション」という攻撃手法もあって、悪意あるテキストを入力してAIの制限を回避しようとする行為にも注意が必要なんだ。