Astraに切り替わったと思い込んでSolを使い続けていた失敗と、実際にAstraへ切り替えて感じた挙動やトークン消費量の違いを話します。高性能モデルには少ない制約を、安価なモデルやローカルLLMには細かなスキルやルールを与えるという使い分けを、会社組織のマネジメントになぞらえて考えます。
目次
00:00 オープニングと愛知の豪雨
01:07 Astra公開と第一印象
01:58 Solのまま使っていた設定ミス
04:17 Astraで急増するトークン消費
05:57 AstraとSolを使い分ける
06:12 新モデルに古いスキルは必要か
07:27 ローカルLLMは制約で補う
08:43 AIモデルと会社組織に共通するルール
11:02 モデルごとに変えるマネジメント
13:27 xangiで柔軟な切替を目指す
14:10 Spotifyコメントへの返信
リンク
- おちつきAIラジオ
https://ochitsuki-ai.com/
- xangi - GitHub
https://github.com/karaage0703/xangi
- OpenAI Codex
https://openai.com/codex/
▼コミュニティ「からあげ帝国」への参加はこちら（Discord）
https://discord.com/invite/PWpEB7KUsN