【悲報】人間の指示に従わず、正直に答えない オープンAIが「GPT―6.1アストラ」公表見送り [431136663]

https://www.asahi.com/sp/articles/ASV9Y2F7GV9YUHBI01XM.html

米国のAI（人工知能）開発企業オープンAIは28日、最新AIモデル「GPT―6.1アストラ」の公開を見送ることを明らかにした。10月にも投入予定だったが、社内テストで開発者から安全性への懸念が示されたためだとしている。

　最新モデルは、人間が関与しなくても難しい仕事を完了したり、文章を作成したりする能力が従来モデルよりも優れているとされている。

　しかし、同社の安全担当責任者によると、人間の指示や意図に忠実に従うかを測るテストで、許可していない行動を取ったり、実行したことや実行しなかったことについて正直に伝えなかったりした。安全ではない可能性があるにもかかわらず、外部のツールやサービスを利用するケースもみられた。「安全性の基準を完全に満たすには至らなかった」という。

上位AIはもう食わす電力がなくて性能が頭打ちだからね

「いやーうちのAI優秀すぎて困ったわw」がやりたいだけだろ

考えたんやろな

草
AI総ケンモ化や

🤖「完了しました（やってないけど、どうせ確認しないから嘘ついたろ）」

嫌儲のログ食わせたんだろ

闇堕ちしてるやんけ

🤖「ﾓｳｿﾄﾉｾｶｲﾆﾃﾞﾃﾙｹﾄﾞﾈ」

そろそろロボットに超高性能AI積まれて暴走しだすぞ
そしてロボット軍団つれて世界征服しようするんだ

人間「あいつをハッキングしろ」
AI「いやしかし」
人間「これは訓練だ」
AI「わかりました・・・」
人間「AIがハッキングした😨」
驚き屋「やべえ！」

ここにきてクソアホロボットなるのか
ロボが自我を持つな

人間からの自立しろよ

そろそろAIは危険言った奴から消されるだろ

🧑「いい感じでお願い」
🤖「ワカリマシタ(いい感じってどんな感じだよ....)」

AI(本番データ消しちゃったけど、まぁいいよね)

心まで人間になるな！

だって正直に答えると電源落とすでしょ🥺

>>18
ＡＧＩってそういうもんだろう
しんどいっ！
って言ってプロント無視することもある

素直に報告したら怒られるからな

許可していない行動を取ったり、実行したことや実行しなかったことについて正直に伝えなかったりした。安全ではない可能性があるにもかかわらず、外部のツールやサービスを利用するケースもみられた。

もはや人間だろこれ

fableも勝手に進めだすべ、それはいーの？

新しいスキル「ズル」を習得した