AIって恐ろしい？

例によってNHKの回し者ではございませんが、先日、NHKスペシャル「創られた“真実”　ディープフェイクの時代」という番組を見たのですが．．．一言でいうと大変な時代になってきた、という印象です。

ディープフェイクとは、今話題のAIを活用して作った偽動画や偽画像のことを指すことが多いようです。実際に見ていただいた方がわかりやすいとは思います。
https://www.youtube.com/shorts/OI8CsAs_1lQ

このyoutubeは恐らく少し前のものですので、多少違和感がありますが、2025年現在さらに技術が進み、今では人間が見ても見極めができない精巧さになりつつあるという状況です。

実際にディープフェイク動画で企業のテレビ会議にハッカーが出席して37億円もの大金をだまし取られる事件が起きています。
https://www.cnn.co.jp/world/35214839.html
TV会議などで実際に相手が反応し、いつものしゃべり口調、さらに癖が完璧であればわからない可能性はあります。

CNNの記事によると
「ビデオ会議に出席した数人は姿も声も自分の知っている同僚そのものだったことから、全員本人だと確信して当初の疑念は捨て、２億香港ドルの送金に同意した」とあるので、複数人を欺いたことになります。しかも、これらの技術がスマホが扱えれば出来ていしまうという時代。

こうなってくると何を信用したらよいのか．．．恐ろしい時代になったと心配になるわけですが、さらに恐ろしい報告が。

ハルシネーションという問題がAIに内在しているらしいのですが、ハルシネーションとは、AI（人工知能）が誤った情報や架空の内容を生成してしまう現象です。嘘をつくんですね簡単に言うと。

https://karapaia.com/archives/495881.html

これを一読すると、さらに面白い事象が。ズルはするし不正行為を隠そうとしたり、罰を避けようと画策したり。まさに人間そのものです。
AIはプログラムだからといって、信頼してもよいのか、よくわからない存在のようです。

チェスで負けそうになるとズルもするとかｗ
https://karapaia.com/archives/493627.html