【しぜんげんごしょり】

自然言語処理 とは?

💡 コンピューターに「人間の言葉」を理解させる技術
📌 このページのポイント
自然言語処理(NLP)のパイプライン テキスト入力 「今日は天気が いいですね」 トークン化 単語に分割 [今日/は/天気/が...] 構文解析 品詞・構造を 特定する 意味理解 文脈・意図を 把握する 出力 応答生成 NLPの活用例 機械翻訳 Google翻訳など チャットボット ChatGPTなど 感情分析 レビュー分析など 人間の言葉をコンピュータが理解・処理するための技術
自然言語処理のパイプライン
ひよこ ひよこ

自然言語処理って、どうしてそんなに難しいの?

ペンギン先生 ペンギン先生

人間の言葉は「曖昧さ」と「文脈依存」の塊だからだよ。「橋を渡る」の「橋」はbridgeかもしれないし、誰かの名前かもしれない。「バンクに行く」は「銀行」か「土手」かで意味が全然違う。こういった曖昧さを文脈から判断するのが、コンピューターにとってとても難しいんだ。

ひよこ ひよこ

翻訳アプリはどういう仕組みなの?

ペンギン先生 ペンギン先生

今の機械翻訳はほとんどニューラル機械翻訳(NMT)という手法だよ。単語を数値のベクトルに変換して、Transformerというモデルで「この日本語の文章に対応する英語の文章はどれか」を確率的に計算するんだ。昔のルールベースの翻訳より自然な文章が出るようになったのはこのおかげだよ。

ひよこ ひよこ

おもしろい!感情分析って何を分析してるの?

ペンギン先生 ペンギン先生

文章がポジティブかネガティブかを判定する技術だよ。「最高だった!」はポジティブ、「ひどかった」はネガティブ。商品レビューや SNS を分析して世論や評判を把握するのに使われるんだ。企業が自社製品への反応をリアルタイムで分析するのにも使われてるよ。

ひよこ ひよこ

「言語モデル」と「自然言語処理」って何が違うの?

ペンギン先生 ペンギン先生

自然言語処理は「人間の言語をコンピューターで扱う技術の総称」で、言語モデルはその中の一つの要素なんだ。ただ最近は言語モデルが強力になりすぎて、翻訳・要約・感情分析など以前は個別に作っていたNLPタスクを、一つの大規模言語モデルが全部こなせるようになった。「専門職がいたところに万能AIが来た」ような変化が起きていて、NLPの研究スタイル自体が根本から変わりつつあるんだよ。

ペンギン
まとめ:ざっくりこれだけ覚えればOK!
「自然言語処理」って出てきたら「コンピューターに人間の言葉を理解・扱わせる技術のこと」と思えればだいたいOK!
📖 おまけ:英語の意味
「Natural Language Processing」 = 自然言語処理
💬 NLPと略される。Naturalは「自然な(人工的でない)」の意味で、コンピューター言語(プログラミング言語)と対比して「人間が自然に使う言語」を指すよ
← 用語集にもどる