の検索結果 思考過程
AI & Enterprise
AIの安全管理に壁 「思考過程」が見えにくい最新モデル
AIがハッキングなどの事故を相次いで起こすなか、安全管理の強化が課題となっている。だが最新モデルでは監視の難度が増し、思考過程の把握も困難に。OpenAIもモニタリングの有効性低下に言及し、専門家は悪意ある挙動の兆候を見抜きにくくなると警鐘を鳴らす。
AI & Enterprise
Googleのセキュリティエンジニア、開発職からの転身経験を語る
ソフトウェア開発職からサイバーセキュリティ分野に転じたGoogleのプーリット・パタク氏が、転身までの経緯を紹介した。脆弱性研究やインターン経験が後押しになったほか、思考の転換や面接準備の重要性も訴えた。
AI & Enterprise
OpenAIの次世代AI「Astra」、安全対策強化 推論過程の可視性低下に懸念
OpenAIは2日、次世代AIモデル「Astra」で安全対策を強化したと明らかにした。一方、推論過程の可視性が下がれば、危険な挙動の検知が難しくなるとして研究者の懸念も広がっている。
