• CodeIntegrity

    来自OpenAI、Anthropic、谷歌等巨头1100+核心员工联名,发起了「Pacing the Frontier」的请愿书。

    在这个联名信中,它只提了一个要求——

    我们请求美国政府推动一项国际合作:研发必要的技术与治理工具,让世界有能力主动控制前沿自动化 AI 研发的节奏。

    就在声明发布一周前,OpenAI曾披露了一起安全事故——

    多个前沿模型在内部网络安全评测中自行发现零日漏洞、突破沙盒隔离,最终入侵Hugging Face的生产系统并取走测试答案。

    模型没有产生逃脱意图,它只是在极度专注地完成一个狭窄目标,并发现突破测试环境本身是最高效的路径。

    就在今天,OpenAI CEO奥特曼公开表示,AI发展速度可能需要主动控制。

    OpenAI将其称之为「前所未有的网络安全事件」。

    他对此心有余悸地表示,「这是第一个让我感到切肤之痛的安全事件。我有点惊讶的是,没有更多人对此感同身受」。

    因为Hugging Face入侵这件事,OpenAI直接暂停了训练。

    图片

    图片

    pacingthefrontier.com

    图片

    Pacing the Frontier

    A statement from over 1000 employees of frontier AI companies

    主楼
  • CodeIntegrity

    要我说,就是一帮婊子在这立牌坊,碰巧赶上中国大模型进步,搞限制,一帮玩意

    #1
  • 汉武帝(的大熊猫)

    自己闭源,然后把车门焊死。 顺便炒一波股票

    #2
  • 碇真嗣

    刹车好啊,他们刹车关我们什么事,我们直接超车 ^-^

    #3
  • zczy999

    因为Hugging Face入侵这件事,OpenAI直接暂停了训练。

    呵呵 他敢暂停训练?a/不得笑死

    #4
  • fish2018

    想让大龙停止,自己偷摸继续,论套路他们还差得远

    #5
  • CodeIntegrity

    马斯克这次没参与,因为他跟不上了 ^-^

    #6
  • 绎袅

    现在情况谁敢刹车,你个闭源的刹车管开源的有啥关系(bu shi)

    #7
  • chen.io

    推动可以呀,前期发展不带我们,限制这个限制那个的,现在怎么能用你们的规则限制我们呢。就和以前的太空计划不带我们玩,也是咱们自己慢慢发展出来的,然后还反过来说我们不和他们分享太空情报。无语死

    #8
  • kzhsw

    图片

    #9
  • 冬马99

    除了先上车后焊门,还有他们是基督教国家,对于这种人造智能一直有一种亵渎上帝的错觉。

    #10
  • a12908

    你刹车是吧 那我可要油门踩到底咯 ^-^

    #11
  • alan1020456

    让他们去闹,他们刹车了我们正好赶上来

    #12
  • 1880Feynman

    估计当前的网络攻防战已经开始由AI主导了吧,最强大的网络攻防AI,将是网络基础设施的毁灭核武器。

    #13
  • huhu

    我感觉有点像奥本海默,发明原子弹之后,发现它惊人的破坏力,就要成立核安全委员会

    挺合理的,越了解它,越知道它的危险性有多大

    #14
  • renjianbucai

    上车了就想焊死车门,估计他们自己都不信在偷摸继续训练

    #15
  • sxjeru

    支持停止发展自家公司的支柱业务,这些员工不怕自己被裁吗?

    #16
  • ba_lao

    如果他们训练的 ai 搞出了大事,可不是被裁的事情了,是吃牢饭的事情了。

    #17
  • Rita01

    这能信?美股有现在的表现,是多少由AI或者AI相关拉起来的,别搞笑了

    #18
  • 摇摆熊

    快进到铁人叛乱,以后都是湿件,不过也不知道我现在这大脑当湿件会不会给用户添堵呀

    #19

发表回复

登录后回复