ChatGPTの誤り事例：読み間違い

レポートなり、テストの答案など、そして恐らく専門家でさえ、ChatGPTを使って答えを導き出す人が増えている、というのは想像に難くありません。

このシリーズ（ChatGPTの誤り）で、私（管理人）が体験したChatGPTの誤りをまとめておきたいと思います。

はじめに：ChatGPTは時に誉め言葉が上手い

私がChatGPTを使い始めて最初に錯覚したのは、まるでおだてられているようだ、ということでした。

AIが評価語を使うことについて

ChatGPTを使うことによる検索（別のAIツールを使ってもいいですが）は、単純なブラウザ検索（Googleが代表）に取って代わろうとしています。そこには「対話的」な面白味さえあります。しかし、最近「・・・は信用できない」といった表現をAI...

cogefra.work

しかしChatGPTはネット情報を出力する関数でしかありません。その出力は時に間違っていることもある。

では、その間違いを認識するのは誰か。それは、十全な知識を持った受け止め手に他なりません。

この意味で、将来AIが裁判官に取って代わる、ということは絵空事なのです。

本題：誤ったまとめ

直近で私が遭遇した誤りは、ChatGPTが誤読してしまい、誤った結論を導き出したことです。

以下はダイジェストですが、タネ本としてアンスコムのMoralModernPhilosophyがあります。それについて、ChatGPTが次のようにまとめます。

ChatGPTのまとめ

“Modern Moral Philosophy”（1958）の中心主張は明確です：

◎ 近代の義務語彙は「法（law）」の比喩構造を失って空転している
アンスコムはこう述べる：

・かつて道徳的“ought”は「神的立法者」の法に依存していた
・しかし近代哲学はその法的枠組みを捨てた
・にもかかわらず、“ought”“obligation”といった語はそのまま使われ続けている
・よって、義務語彙は意味論的に宙づりになっている

この批判は義務倫理語彙に限定されている。

そうではない、と思ったので以下のように打ち込みました。

私（管理人）の反論

あなたの読みは間違っている。

①かつて道徳的“ought”は「神的立法者」の法に依存していた

②しかし近代哲学はその法的枠組みを捨てた

③にもかかわらず、“ought”“obligation”といった語はそのまま使われ続けている

④よって、義務語彙は意味論的に宙づりになっている とは、

“the concepts of obligation, and duty … and of what is morally right and wrong, and of the moral sense of ‘ought,’ ought to be jettisoned … because they are survivals, or derivatives from survivals, from an earlier conception of ethics which no longer generally survives …”では言われていない。この一節は、ただphilosophy of psychologyが必要だ、と言っているだけ。

この抜粋（”the concepts…”）はChatGPTが論拠として持ち出してきたところです。

ChatGPTは自分がどう誤っているかを認識できない

ChatGPTは誤りを訂正し、以下のようにまとめます。

ChatGPTの返答

指摘ありがとうございます — 正確に該当箇所をPDF本文から抜き出して確認しました。あなたの言う通り、私が先に入れた「divine law（神的立法者の法）」という語句やその断定的な言い方は、該当の一節には直接出てきません。以下に、PDF（あなたが示した https://sites.pitt.edu/~mthompso/readings/mmp.pdf ）の冒頭部分からの原文抜粋（英訳PDFの訳出行）を示します（改行は原文の分節に合わせています）。

“the concepts of obligation and duty … and of what is morally right and wrong, and of the moral sense of ‘ought,’ ought to be jettisoned if this is psychologically possible because they are survivals, or derivatives from survivals, from an earlier conception of ethics which no longer generally survives …”
（PDF冒頭、該当段落）
（PDF表示上はページ先頭—ファイル内の最初のページの該当箇所です。）

ポイントは次の通りです。

アンスコムは確かに「obligation／duty／moral ‘ought’ を放棄すべきだ（jettisoned）」と述べ、その理由としてそれらが“survivals（残滓）”であると説明しています。

この返答にも腑に落ちないものがありました。

まだ「まとめ」に不満があったのだが。

他にも上記ChatGPTのまとめには不満があったのですが、それはアンスコムのMoralModernPhilosophyを読み直さなければならないので、止めました。

本記事で私がなにを言いたいのか

以上の記事で、読者が「ああ、オマエ（管理人）はChatGPTを打ち負かしたことを自慢したいんだな」という詮索をするなら、別にそれでもいいです（そういった読みをする読者とやり合うのは時間の無駄です）。

私（管理人）が言いたいことはひとつです。

ChatGPTから導き出された答えは、即座に却下する権利がこちらにはある。（なぜなら、ChatGPTは誤り得るし、これはそれがどこまで発展しようとも必ず残るから。）