最近はLLMをベースにしたエンジニアリングに凝ってます。
特に、Ollamaを使ったローカルLLMとの連携を中心にやってます。これは、Chat-GPT、Claud、GeminiなどのクラウドのLLMとのAPI連携では無くて、ローカルパソコンの中で動作するAIで、かなりの精度を出すもので、さらに無料なので、今後注目されると思っている。
主にYoutubeとUdemmyを利用して勉強してます。(英語版が多いのでちょっと苦労している)
これまでにOpenAI-APIを使ったFunctionCallingや、LangChain、LangGraphなどを使ったRAG、そして、LoRA•QLoRAによるファインチューニングなどを勉強している。(まだ、入口レベルだけど)
他にもローカルLLMでのマルチモーダルなどの構築も着手してます。
さらには、MariaDB(MySQL)などと連携させると、かなり実践的なシステムを作れるといった手応えを感じはじめてます。
もうちょっと勉強を続けて、何かデモのエージェントシステムを構築したいと思ってます。会社だったらエキスパートシステムっぽいやつなんだろうけど、自前なので、もっと手軽で汎用的なものを検討したいなぁ。
DifyやMCPなども触っていこうとは思っているけど、もうちょっと専門的なところも極めておきたい。
今後にご期待を‼️