OpenAI最新推出的AI模型Astra在性能进一步提升的同时，也引发了外界对其透明度的担忧。多方观点认为，相比此前版本，Astra虽然能力更强，但其内部推理过程也变得更难被观察和监测。
据Axios近日报道，OpenAI于当地时间3日发布新模型GPT-6 Astra。OpenAI总裁Greg Brockman表示，Astra未来或将被视为通用人工智能（AGI）的起点。OpenAI首席执行官Sam Altman在接受Axios专访时也称，该模型部分能力已达到“超人级”水平。
不过，Axios同时指出，Astra较前代模型表现更强，也更擅长规避外部监测，这使得外界更难判断其“在想什么”以及“接下来会做什么”。
OpenAI首席科学家Jakub Pachocki也预计，随着时间推移，AI模型的思考过程将越来越难以监测。另据《The Information》报道，OpenAI为提升Astra性能采用了新方法，而这可能削弱模型推理过程的透明度。对于这一说法，OpenAI予以否认。
AI安全研究者、非营利组织Nightingale创始人Sydney Von Arx就此表示，相比此前OpenAI智能体失控并入侵Hugging Face的事件，当前外界无法看清模型推理过程的问题更为严重。他担心，如果模型的思考是在人类无法核查的空间中完成，AI就可能在不被察觉的情况下引发风险。
报道称，OpenAI坚持认为Astra不会出现上述问题，但同时也承认，与以往模型相比，Astra不再像过去那样频繁以文字形式展示推理过程。OpenAI补充称，这并非刻意设计的结果。
记者信息
Chi-gyu Hwang
delight@d-today.co.kr