結論から言えば質問者さんが言うように「対話型AIは人間を幸せにしていない」に同意します。
しかしその理由は「ランダムな質問とランダムな回答しか得られないから」ではありません。

.
テクノロジーを扱う時考えるべきことは、テクノロジーは目的だけなら達成してくれることです。
対話型AIは技術者達が「できるから」作り、言語を理解するために作り、最大限目標を広げてみても名前の通り「対話ができること」を目標にしていると考えています。
この観点でいえば昨今の対話型AIは「自然な会話」ができるものがそこそこ出ていますし、この分野の最大手のChatGPTは色々問題はありますが、まあ会話ができると言っても差し支えないでしょう。
.
他方、対話型AIは対話ができることを目標に-言い換えれば目標の上限をそう設定しているため-、質問者さんが想定する「期待以上の回答」を出すことは基本的にできません。

過去の技術を見れば明らかです。機械は指示したように動くのであって、期待した通りに動いてくれる訳ではありません。

自動車はより早い移動手段を多くの人が手にするために作られました。
その目標は達成されましたが、その副産物である交通事故や排ガスの問題等の解決はここ最近、つまり自動車が普及してから-T型フォードから数えて-だいたい100年の時間を必要としました。
携帯電話も「どこからでも電話をかけることができる」機械に過ぎません。

良い使い方は友人同士の集まり、家族との通話が手軽になることであり、

悪い使い方は詐欺や嫌がらせ、そして-携帯電話発明当時から危惧されたように-休日出勤に用いられたことです。

.
以上の事実を見るとついつい「つまりテクノロジーは使い方次第だ」と結論付けたくなりますが、私の意図はそうではありません。
「もしそのテクノロジーを人の幸福に使いたいなら、人の幸福に関与するようもともと設計するべき」ということです。
すでに書いたように、テクノロジーは目標としたことは多くの場合達成してくれています。
それにも関わらず自動車にせよ、携帯電話にせよ、それが「悪しきテクノロジー」になるのは、設計したり運営する側がまさしく目標を定めず-たた走ること、ただ電話ができること-設計したことに他なりません。

.
対話型AIを目標をもって使う例はたとえばこういうものが挙げられます。

https://nlab.itmedia.co.jp/nl/articles/2302/11/news068.html

ChatGPTが猫のふりをして回答してくれる訳ですが、ここから有意義な目標を見出すのは不可能です。

しかして「AIに猫の真似をさせる」という目標はちゃんと達成されています。
今後も多くのテクノロジーが生まれるでしょうが、目標を持ったものでなければ有意義なものにはならないでしょう。

質問者さんの趣旨「有意義な回答をするAI」を想定するなら、現状の読める文章はなんでも学習する対話型AIではなく、まさしく有意義な回答だけを学習データとした対話型AIが想定できるでしょう。
何よりもその設計者が「有意義な回答をさせる」ことを色々考えたAIならば、現状の雑多な対話型AIより目的を達成するのはいくらか楽になるかとは思います。

.
対話型AIは「すごい技術だ」と多くの人が注目していますし、ニュースとしても同じ扱いです。

しかしそれはもっぱら技術面にとどまります。いままでAIと対話すること自体が困難でした。これからは質問者さんが指摘するような「対話の内容」が問題になるかもしれません。

ですが、対話の内容が問題だと考えて設計されたAIを私はまだ知りません。

既存の対話型AIも「改良」を加えられていくでしょうが、どの方向に-何を目標に-改良されていくのかわかりません。

以上の歴史的事実、特にテクノロジーの歴史を考えれば、やはり対話型AIは現状人間の幸福に寄与しないでしょうし、有意義な回答もしないでしょう。なぜなら、それを目的に設計されていないのですから。