テクノロジー「AIの騙し方」

【キャットアタック】

最近のAIは凄く賢くて難しい文章問題や
数学の難問も解ける様になってきてます
つまり科学者でも難しい問題をAIならば
簡単に解ける位進化してるのです

でも意外な弱点がありそれは問題の中に
「猫は一生の殆どを寝て過ごします」と
言う様などうでもいい豆知識を入れると
AIは一気に間違えやすくなります

人も無意味な文があっても無視する事が
出来難いですがAIは更に混乱するのです
そこでアメリカ研究チームクリニアーが
この弱点を調べました

このAIを惑わし誤回答させる攻撃方法を
「キャットアタック」と名付けたのです
AIの種類は色々ありディープシークとか
クウィーン等様々なAIでテストしました

するとたった一文加えただけで誤答率が
300％〜700％ も増え更に正解した時も
答えがやたら長くなって処理が遅れたり
余計にコストがかかる事もありました

こんな事が起きる原因はAIが学習する時
 

問題文にある情報は全部大事と思い込み
特に数字が入った文は重要だと判断して
誤数字でも強引に回答に混ぜてしいます

そこに文章の誤情報を混ぜればそすらも
AIは重要な文章だと認識し強引に回答に
混ぜその結果必要ない事まで考え答えを
間違えてしまうのです

〓＝〓＝〓＝〓＝〓＝〓＝〓＝〓＝〓＝〓

【騙されないAI】

この弱点は凄い危険性があり金融や医療
法律の様に重要な分野でもし悪意のある
人間ががわざと余計な文を入れそのAIを
使わせたら正常にAIが動きません

そうなるとAIが間違の答を出してしまい
大きな被害が出てAIの答えに従った人は
人生どん底まで突き落され膨大な借金を
性負わされて完全に詰みます

人間ならよく見れば無視できる事なのに
AIはそれが絶対出来ないからここに人と
AIの考え方の大きな違いがあって大切な
判断をする事でAIを使うのは危険です

対策方法として無関係な文は無視してね
とAIに追加の指示をすると少し防げられ
しかし少しか誤情報をスルーしないので
この方法は完璧ではありません

なので将来は余計な情報に強いAIを作り
人間の問いかけに必ず正しい回答をだし
AIは人間が自分をだます事があると知り
疑う機能が必要になります

AIはとても頭が良くなったけど関係ない
一文に凄く弱く人間ならよく読み気づき
自分を騙している事だと認識できますが
AIは簡単に引っかかってしまいます

この弱点を悪用されると危ないのでAIに
人間は嘘つきだと解らせ常に自分を騙し
不幸に陥れる悪者のショッカーと理解し
騙されないAIを作る必要があるのです