熊崎 宏樹:プロンプトエンジニアリングは入力する文字列を工夫しますが、そもそも学習済みモデルではなく特定用途向けに追加で学習を行ったりチューニングしたりするためのテストデータセットを作ってチューニングする職種が細分化するのではないかと想像しています。
現時点のLLMや画像拡散モデルは巨大なTransformer構造に大量の教師データを叩き込み続けたら急激に性能が上がったという状況に近く、どういった学習をさせたらどういう風に効いてこんな高度な出力を出せるようになったのか解明しきれていないそうです。それは燃焼の原理も酸素も知らないまま焚き火を行って料理の恩恵を受ける原始人のようなものです。もちろん世界中の頭の良い人がどうしてこうなったかについて継続的に論文を積み重ねているのでそのうち徐々に原理が解明されるにつれ好みの味付けにチューニングしたり特定の出力(ポルノ等)をより確実に禁忌にしたりといった社会的需要に答えさせる職種に注目が集まると思います。
これまでは一部の天才研究者が謎の経験則でエイヤと作った中でたまたまうまく行ったモデルが世の中で使われていますが、原理が解明される程にその工程は普通のエンジニアにも降りてくるはずですし恐らく継続的なメンテナンスや改善が必要とされるのでモデルの番人もしくは調律師として継続的に改善に取り組む職種がデータサイエンティストでも機械学習研究者でもない形で民主化されるのではないかと期待しています。