意思決定のためのシステム作ってて思ったんだけど、AIが構造的に勝てないポイントは決定論(deterministic)なんじゃないかなあ。同じ入力ならn回やっても必ず同じ出力が出る保証だけれど、従来システムはf(x)=yみたいな思想なのに対して、AIは確率分布だからf(x)=P(y|x)となるわけで、前提思想が違う
2026-02-25T00:01:45+00:00
「temperature=0で決定論にできる」は最大確率を取ってるだけで、結局本質は確率モデルなんよなあ。seed固定や出力制約もガードレールで外から縛っているだけで、deterministicは結局、決定論的風な後付け制約に過ぎないので、そもそも前提が決定論的でない。
2026-02-25T00:05:48+00:00
しかもガードレールを強めればそもそもAIのケイパが削られてる。自由度が下がると発散性も下がり創造性も下がる、結果として監査性は上がる。このトレードオフは避けられない上、だったらそもそもシステムで組んだほうがよくない?と思う
2026-02-25T00:07:34+00:00
だから結論、意思決定のための“最終確定システム”には使いづらいんじゃないのかな。AIは提案者にはなれるけど、責任を伴う確定値を出す主体としては決定論のなさから構造的に相性が悪い。
2026-02-25T00:09:01+00:00
tweetlog at 2022/11/27 to 2022/12/4
2022年12月4日(日) 14時36分38秒 | 3 viewtweetlog at 2022/10/2 to 2022/10/9
2022年10月9日(日) 14時36分40秒 | 1 viewtweetlog at 2025/1/26 to 2025/2/2
2025年2月2日(日) 14時36分37秒 | 1 viewtweetlog at 2021/8/15 to 2021/8/22
2021年8月22日(日) 14時36分43秒 | 1 viewtweetlog at 2023/1/1 to 2023/1/8
2023年1月8日(日) 14時36分43秒 | 0 view