――AIは「間違える」のではなく「それっぽく考える」 「ChatGPTって、平気で嘘をつくよね」 この一言、感覚としてはよくわかる。 でも、事実としては少し違う。 AIは“嘘をつこう”とはしていない。 ただし、“正しさ”よりも“それっぽさ”を優先する瞬間がある。 ここを取り違えると、AIは危険な存在になるし、 理解すれば、かなり優秀な相棒にもなる。 AIは「知っている」のではなく「予測している」 ChatGPTは、Googleのように事実を検索しているわけではない。 大量の文章データをもとに、 「この文脈なら、次に来る言葉はこれだろう」 という 確率の高い選択 を積み重ねて文章を作っている。 つまりAIは、 記憶しているわけでも 理解しているわけでもなく 思考の“形”を真似ている。 だから、 ・ありそうな年号 ・それっぽい専門用語 ・筋が通っていそうな説明 を自然に組み立ててしまう。 結果として、「自信満々で間違う」ことが起きる。 人間は「それっぽさ」に弱い ここで問題になるのは、AIよりも 人間側 だ。 ・文章が流暢 ・論理構造がきれい ・断定