映像と音のブログ　dendosi

ネット百科事典ではウキペディアは最高の恰好なツールであろう、誰もが日夜無料で活用しているはず。
しかしその便利な百科事典が脅威にさらされているというのだ、ニセ情報で書き換えられるからとして。

世界の愛用者が編集参加している充実した情報発信元とされているウキペディア、意外な脆さが存在しているとの情報がなされた。
生成AIブームに入り込んだネット社会、それとデジタル社会の進捗により、信頼を置いてきたここが襲われていることを前提に利用すべきという警告が出たのである。

ネットから収集するデータをもとに利用者の指示で文章や画像、音楽を生み出すのが生成AIの基本構造。
この仕組みを悪用する輩が世界に生まれていることも否定できないからと。
ニセ情報をウキペディアに学ばせてしまえ、という悪質な手合いがそこに仕掛けるとされるから。
それに逐一内容チェックが行われ更新も頻繁になされるものであっても、タイミングを見つけて更新させれば買い替えも行えるようだ。

ニセ情報を大量に読み込ませる、学習させればこれが可能であるとし、世界の利用者に警告を発したのである。
有名人を標的に、むろん中には国際的な影響力を備える政治家も入るが、彼らの照会内容をニセ情報で置き換えられるからと。
いつものように信頼し信用して転用する内容だが、それがニセと言うことも見破れずに利用される危険性が高まったということなのだ。

生成AIの便利さは定型文を利用する頻度の高い行政部門は多くのところで利用価値を認め、時間短縮と業務負担を下げるため利用を認める傾向にある。
しかもその文面内容のチェックにウキペディアを利用することも少なくないはずだ。
そういう意味で二重三重でニセ情報を掴まされ、間違った行政指導を行うことが否定できなくなったということ。
つまり一定の利用方法基準が必要であるということを示唆している。

そのため生成AIを攻撃から守るため日米英豪など11か国が国際指針に署名したという。
その指針は、AIが不正確で偏った、悪意のある回答をする可能性がある、という指摘であった。
要するに何もかもAIを良質としてうのみに使わないよう十分なチェック体制を用意しないといけないというわけだ。

このようなサイバー攻撃はデータポイズニングと呼ぶようだが、毒殺を英語表記するとポイズニングとなるから。
この記事を見つけてそうなのかと言う思いと共に、これが汚染されてしまうと世界の常識、正常化が脅かされると直感した。
昔は多くの人が百科事典を家に備え利用したなどがあった、また六法全書という知恵の下も置いた家庭が多かったもの。

それらを駆逐してしまったのが電子辞書役のウキペディアである、ネット検索で必ず引っかかるサイト、これで随分と助かった人も多いと思う。
そこが生成AIの急速な普及で汚染されてくるとなればパニックに陥ってしまう人も多く出てくると思われる。
かなりの信頼性があるして利用した人にすればこの先どうすればよいか考えがまとまらないなど影響が出るだろう。

生成AIの登場で世の中便利になって行くなと歓迎していたが、それが百科事典の内容も書き換えできるのかと驚くのである。
しかもニセ情報で買い換えられたとしても、真の情報に接する機会が少ない人に間違っているとは判断しかねるから厄介である。
人名辞典のように活用しても、その記入事項がすっかりニセだったらと思うとやるせない気分である、さてどうしたらよいのだろう、かである。