自然言語処理(NLP)分野の知識と考え方

ディープラーニングによるAIモデル・技術という記事でも既にディープラーニング系の技術を活用した自然言語処理についての情報は触れているし、ChatGPTとか大規模言語モデル（LLM）関連の情報まとめという記事にあるように今時はLLMだろうという話もある。
が、流行りがどうとかではなく、自然言語処理の基本的な知識や考え方、事例とかは把握しておくべきと思い、上記の記事を補足する情報の整理を。

言語学の世界でも統計と機械学習という2つの文化が対立 - Qiita

よりベーシックなテキストマイニング

比較的簡単なテキスト分析の手順についての初心者向けテキスト

R でテキストマイニングをやってみた（１０）まとめ | 情報科　いっぽ　まえへ！

Rでtweetをテキストマイニング：ワードクラウドと共起ネットワーク - 医療職からデータサイエンティストへ

14 Mixed-methods research: Analysing qualitative data in R | R for Non-Programmers: A Guide for Social Scientists

トピックモデルは確かにこれが分かりやすかった。

トピックモデル（LDA）で初学者に分かりづらいポイントについての解説 - Taste of Tech Topics

ニューラルネットワーク、ディープラーニングによるNLP

上記が統計的な処理をベースにしていて、比較的ロジックを追っかけやすいホワイトボックス的な分析だった。
それに比較するとブラックボックス的な、なんでそうなるかわからん、ロジックを追っかけきれないものにはなっていくけれど、機械学習～NN/DLを活用することで精度が向上したり大量データを処理出来たりして、最近の生成AIの発展につながる。

とはいえ、以下の記事はコンセプトを理解するのに優れていてお勧め。

自然言語処理（NLP） - 星の本棚

word2vec系に関してはコレ

word2vec（Skip-Gram Model）の仕組みを恐らく日本一簡潔にまとめてみたつもり - Np-Urのデータ分析教室

挑戦！ word2vecで自然言語処理（Keras＋TensorFlow使用）

gensimでDoc2Vec - 機械学習・自然言語処理の勉強メモ

GoogleのBERTモデルは使ってたな。LLM流行りの昨今でも、大量の文章を0-1で分類する問題には、日本語向け事前学習済みBERTモデルのリスト · GitHub は今でも有用。
ここら辺を動かすためにやむを得ずpythonを学んだり、サンプルコードを引っ張ってきたり、最後は若手に作ってもらっちゃったけどww

BERTとは｜Googleが誇る自然言語処理モデルの仕組み、特徴を解説 | Ledge.ai

汎用言語モデル「BERT」のビジネス実用化技術に迫る | NTT技術ジャーナル

自然言語処理の必須知識 BERT を徹底解説！

BERTとは何か：自然言語処理モデルにおけるChatGPTとの違いと特徴 - AI suite(エーアイスイート)

ヤフーにおける自然言語処理モデルBERTの利用

NICT BERT 日本語 Pre-trained モデル

あとはデータ集として国立国語研究所 (ninjal.ac.jp)と、イメージアップしやすい活用事例としてデータジャーナリズムを。

記者はもう要らない？データから記事を自動作成、米報道の最前線

データジャーナリズム――世界に広がる「データからニュースを発見する」挑戦（THE PAGE） - Yahoo!ニュース

データジャーナリズムリンク集 - シンポジウム＆インタビュー - 未来メディアプロジェクト：朝日新聞デジタル

自然言語処理系の知識や考え方、事例などの情報を今まで僕が得てきたのは、自然言語処理そのものが専門ではない、対象ドメインを分析するためにたまたま自然言語処理を使ってる人たち。なので利用シーンについてはわかっても、技術の深い所はいまだピンと来ない。
だから専門家として適切な人を知ることが次の目標か。僕が最近知った専門家らしき方は、無知の知を知らないというか、それ実務ではもっと簡単に解決するよねというのにも自然言語処理の高度技術（最近ならLLMも加えて）に固執して自説を滔々と演説するというか、まぁ。。。

他の情報を見たい方は、目次ページへ
仕切り直しで収集情報の整理から｜くすぐったがり｜note