技評さんのサイトで「JavaでAIプログラミングをはじめよう」という短期連載をやってました。
LLMを動かして接続してRAGやMCPも組んでひととおりやってみるという連載になってます。
JavaでAIプログラミングをはじめよう記事一覧 | gihyo.jp

● 初回は、LM Studioを使ってQwen3 1.7Bをローカルで動かしてHttpClientで呼び出すという、準備的な回。
今ならGPT-oss 20Bでもいいかもしれないけど、Qwen3 1.7Bのほうがどんな環境でも動くんじゃないかと思います。
JavaでLLMにアクセスしてみよう | gihyo.jp

● 第2回は、定番ライブラリのLangChain4jを使うという回。
LangChain4jを使ってみよう | gihyo.jp

● 第3回はFunction CallingとRAGです。
ちなみに、技評さんのサイトでダウンロードできるサンプルコードには、このブログの10回分くらいのmdファイル入ってて、そのまま動かせば「きしだのはてなAI」が起動します。
Function Calling (Tool use)とRAGで外部情報を利用する | gihyo.jp

● 第4回はMCP。Spring Bootを使ったサーバーを作ってLM Studioからの呼び出し、LangChain4jで作るクライアントからの呼び出しをしています。
ほんとは全3回の予定だったけど、LM StudioがMCP対応したので、ついでにやってみました。作るとMCPの理解が深まるのでよい。
第2回のときLangChain4jのバージョンは1.1.0を使ってましたが、第3回の直前くらいに1.2.0が出てたので、ここでは1.2.0を使ってます。
https://gihyo.jp/article/2025/07/start-java-ai-programming-04

そして連載終わったら1.3.0が出ていました。早い。
Release 1.3.0 and 1.3.0-beta9 · langchain4j/langchain4j · GitHub

LangGraph4jでエージェントを、とか書いてたけど、LangChain4j 1.3.0にエージェント機能が入っていて、これ結構よさそう。
https://docs.langchain4j.dev/tutorials/agents/