.:. 草榴社區 » 技術討論區 » [转] ChatGPT之父舌战国会山!OpenAI欲与政府联手,权力通天 [7P]
--> 本頁主題: [转] ChatGPT之父舌战国会山!OpenAI欲与政府联手,权力通天 [7P] 字體大小 寬屏顯示 只看樓主 最新點評 熱門評論 時間順序
黑教授


級別:騎士 ( 10 )
發帖:419
威望:101 點
金錢:308 USD
貢獻:13000 點
註冊:2023-03-25


[转] ChatGPT之父舌战国会山!OpenAI欲与政府联手,权力通天 [7P]



北京时间昨晚,OpenAI CEO Sam Altman在美国参议院就AI技术的潜在危险作证,并敦促立法者对制造先进AI的组织实施许可要求和其他法规。
 

Sam Altman不用接受刁钻的问话,他坐在席位上游刃有余、侃侃而谈,再次向世界证明:作为全世界最受瞩目的初创公司CEO,他在书写着科技世界的规则和未来。
面对美国国会,Sam Altman再次斩钉截铁地保证:在未来六个月内,OpenAI坚决不会训练GPT-5。
同时, 他也对全世界发出警告:AI有可能会对世界有害,为了应对日益强大的AI风险,我们需要加强监管和立法,而政府的干预极为重要。
为啥Altman对政府监管如此积极呢?
显然,只要成为规则制定者,就能在竞争中赢者通吃。
而对于在硅谷靠着「社牛」属性闯出一片天地的Altman,和政府打交道,简直轻松得如同探囊取物。
用AI生成的开场演讲
作为科技界异军突起的新力量,OpenAI在成立8年后,在今年以迅雷不及掩耳之势搅动了全世界,逼得所有科技公司都参与进了一场以ChatGPT为起点的全球内卷。
这场全球AI军备竞赛,让不少专家警铃大作。
不过这次听证会,参议院的议员们并没有批评OpenAI的技术带来的混乱,而是谦逊地就ChatGPT的潜在规则征求了证人们的意见,对Sam Atlman的态度是肉眼可见的友好和尊敬。

听证会一开始,参议员Richard Blumenthal使用了声音克隆软件复制自己的音色,让ChatGPT写了一段开场白,使用数小时的演讲训练了一个文本到语音生成器。
此举证明,国会「拥抱AI」的态度旗帜鲜明。
AI危险,请监管我们

 

这一场听证会上,立法者明显非常兴奋,与他们曾经对小扎和周受资步步紧逼的质疑形成了鲜明对比。

参议员们没有喋喋不休地谈论过去的错误,而是对AI可能带来的好处充满渴望。

而Altman开门见山地告诉参议院:AI技术可能会出错。



他表示,自己很担心人工智能行业对世界造成重大伤害(cause significant harm to the world)。

「如果AI技术出错,造成的后果不堪设想。我们需要对此发声:我们希望与政府合作,防止这种情况发生。」

「我们认为,政府的监管干预对于减轻日益强大的AI模型的风险,至关重要。比如,美国政府可以考虑将许可和测试的要求结合起来,以开发和发布超过能力阈值的AI模型。」
Altman表示,自己非常担心选举会受到AI生成内容的影响,因此在这方面需要有足够的监管。
对此,参议员Dick Durbin表示,大公司来到参议院「恳求我们的监管」,是很了不起的行为。


Altman提出三点方案:
怎么监管?Altman早就替政府想好了。

在听证会上,他提出一个成体系的方案。

1. 成立一个新的政府机构,负责为大型 AI 模型颁发许可,撤销不符合标准的模型的许可。



而对于能力远达不到最先进的大模型的技术,他认为不需要使用这种许可监管制度。国会可以「定义能力阈值」,免除小型公司和研究人员可能遇到的监管负担,鼓励创新。



2. 为 AI 模型创建一套安全标准,包括对其危险能力的评估。



例如,模型必须通过安全测试,比如它们是否可以「自我复制」和「流出到监管之外」。



3. 要求独立专家对模型在各种指标上的表现进行独立审计。



当参议员问他是否愿意担任这个角色时,Altman说:我对目前的工作感到满意,不过他很愿意提供一个名单供国会挑选。



Altman说,因为AI模型可以「说服、操纵、影响一个人的行为、信仰」,甚至「创造新的生物制剂」,因此,非常需要许可。
对所有超过一定计算能力阈值的系统进行许可会更简单,但Altman表示,自己更愿意根据特定能力划定监管线。

那OpenAI自己的模型安不安全呢?

 

Altman一再表示,大家可以放心。
他说,GPT-4模型比其他任何类似模型做出的回应都会更有意、更真实,并且一定会拒绝有害的请求,因为GPT-4经过了广泛的预发布测试和审计。
「在发布任何新系统之前,OpenAI 会进行广泛的测试,聘请外部专家进行详细审查和独立审计,改进模型的行为,并实施强大的安全和监控系统。」

「在发布GPT-4之前,我们花了六个多月的时间进行广泛的评估、外部红队和危险能力测试。」
并且在上个月,ChatGPT的用户已经可以关闭聊天记录,防止自己的个人数据被用来训练AI模型了。
不过呢,也有眼尖的群众发现了「华点」,Altman的提议中,并没有涉及到公众热议的两点——
1. 要求AI模型为其训练数据公开来源。



2. 禁止AI模型使用受到知识产权保护的作品进行训练。

嗯,就是说,Altman非常巧妙地回避了这两个争议点。

Altman对于AI安全规则的提议,议员们大为赞许,并且偶尔会对他的证词表示感谢。参议员R-LA甚至向Altman抛出了橄榄枝,问他是否有意在国会创建的监管机构工作。
国会决心监管人工智能,早有前兆。本月初,Altman同谷歌、微软和英伟达的CEO一同在白宫会见了副总统Kamala Harris,讨论了负责任AI的发展。
而早在去年,白宫就曾提出「人工智能权利法案」,向业界提出各种要求,比如防止歧视。
类比原子弹,建议成立类似国际原子能机构的国际组织
参议员提出,把AI比作原子弹的说法。

而Altman参考世界各国政府监管核武器的做法,提出了组建一个类似于国际原子能机构的机构,来为该行业制定全球规则的想法。
OpenAI在未来六个月内不会训练GPT-5
在4月份Lex Fridman的第2轮访谈中,Sam Altman言之凿凿地说:「我们现在并没有训练GPT-5,目前只是在GPT-4的基础上进行更多的工作而已。」

 

这次听证会上,Altman更是直接承认,OpenAI在未来6个月内,没有训练可能成为GPT-5的新模型的计划。
而这应该意味着,谷歌将在今年晚些时候拥有其迄今为止最强大的人工智能系统——Project Gemini。
据说,Gemini专为存储和调度等未来创新而设计,不仅从一开始就是多模态的,而且在集成工具和API方面效率很高。目前正由新成立的Google Deepmind团队研发。
马库斯:OpenAI自称为了全人类,可数据不透明

纽约大学心理学和神经科学教授Gary Marcus也出现在了证人席上。
 

他的攻击性甚至比国会议员们还要强。
他对Sam Altman发出的提问,可谓「招招致命」。
OpenAI成立的宗旨不是造福全人类么,如今为什么跑去和微软结盟?
OpenAI不Open,GPT-4的训练数据不透明,到底是几个意思?
马库斯总结道:我们拥有前所未有的机会,但我们也面临着企业不负责任、广泛部署、缺乏适当监管和不可靠的可怕风险
在马库斯看来,Open和微软的行事都大有问题。
曾经微软的必应AI悉尼,表现出了一系列令人震惊的行为。
「悉尼的问题很大,如果是我,会马上把它从市场上撤下,但微软并没有。」
马库斯表示,这件事给自己敲响了警钟——即使是像OpenAI这样的非盈利组织,也可能被大公司买下,然后想做什么就做什么。
但现在,人们的观点和生活都在潜移默化地被AI塑造和改变,如果有人故意利用AI技术,用于不良的目的呢?
马库斯对此表示非常担心。
「如果让一种技术官僚和寡头政治相结合,那少数公司就可以影响人们的信仰,这是真正的风险所在......让少数玩家使用我们根本不知道的数据来做到这一点,这让我感到害怕」
Altman表示AI界并不存在垄断

 

针对一些常见的法律监管方面的问题,看得出来Altman早就成竹在胸,给各位参议员们安排得明明白白的。


参议员说,他对人工智能的「最大担忧」之一是「这种大规模的企业垄断」。
他举了 OpenAI 与科技巨头微软的合作为例。
Altman表示,他认为能够制造大模型的企业数量相对较少,反而可能会更加方便监管。
例如,大型的生成式 AI,只有少数公司能够制造,但是竞争一直是存在的。
给大模型建立法律责任
美国国会 1996 年通过的第 230 条促进了社交媒体的兴起,该条款保护网站免于对用户的帖子承担责任。

Altman认为:大模型现在没有办法受到230条的法律保护。应该制定新的法律保护大模型不会因为输出内容而承担法律责任。

巧妙回避最致命的问题
奥特曼最初回避了参议员提出的「AI可能造成最严重的后果」。

但在马库斯友好地提醒 Altman 没有回答问题后,这位参议员重复了他的问题。
Altman最终也没有正面回答这个问题。

 

他说,OpenAI 曾试图非常清楚人工智能的风险,这可能会以「很多不同的方式」对「世界造成重大伤害」。
他再次阐明。应对这个问题就是OpenAI成立的原因。「如果这项技术出了问题,它可能会大错特错。」
其实,在今年早些时候接受「StrictlyVC」采访时,Altman称人类灭绝是最坏的情况。
最终,就连马库斯似乎也对奥特曼软化了。
在听证会快结束时,坐在Altman旁边的马库斯说,「他在谈论恐惧时的诚意非常明显,这种诚意在透过电视屏幕是没法感受到的。」

老练的科技领袖

跟小扎相比,Altman此次听证会的表现十分老练,想来他作为社牛,对与政客们打交道早已游刃有余。毕竟,Altman可是多年前就曾考虑过竞选加州州长的人物。

而且对比去听证会前因为数据隐私和虚拟货币已经「捅了大篓子"的小扎,Altman背后的OpenAI不但几乎没有受到任何公众的指责,还是目前AI领域「万物竟发」局面的最主要开创者。
面对一上来就示好,呼吁对AI进行监管的Altman,这些几乎都是「技术素人」的立法者自然在这位「权威」面前会显得温柔和蔼很多。
所以同样场合之下,Altman身上的压力与小扎相比完全不是一个数量级。

大模型的商业模式
有参议院提出这种担心,如果像互联网社交平台一样,AI产品如果采用广告为主的商业模式,会让操纵性的产品设计和令人上瘾的算法被滥用。
Altman说自己「非常喜欢」订阅模式。
但是OpenAI 确实考虑过在 ChatGPT 免费版中投放广告来从其免费用户那里赚钱的可能性

赞(23)
------------------------
h
DMCA / ABUSE REPORT | TOP Posted: 05-19 10:35 樓主 引用 | 發表評論
netposter


級別:新手上路 ( 8 )
發帖:118
威望:12 點
金錢:281 USD
貢獻:3 點
註冊:2023-05-04


1024
TOP Posted: 05-19 10:37 #1樓 引用 | 點評
时光与你


級別:精靈王 ( 12 )
發帖:1984
威望:199 點
金錢:2555 USD
貢獻:40533 點
註冊:2022-01-01

感谢分享
TOP Posted: 05-19 10:46 #2樓 引用 | 點評
莫负时光


級別:俠客 ( 9 )
發帖:1967
威望:197 點
金錢:2116 USD
貢獻:723 點
註冊:2022-03-14

人工智能时代
TOP Posted: 05-19 10:47 #3樓 引用 | 點評
9500168


級別:精靈王 ( 12 )
發帖:4151
威望:424 點
金錢:60768177 USD
貢獻:30000 點
註冊:2012-02-21

别开源,让中国的那些公司学了去,然后说成自己的,然后再用来统治百姓,监督平民
TOP Posted: 05-19 10:49 #4樓 引用 | 點評
子树


級別:聖騎士 ( 11 )
發帖:8838
威望:894 點
金錢:12162 USD
貢獻:0 點
註冊:2022-11-15

感谢分享
TOP Posted: 05-19 10:58 #5樓 引用 | 點評
思尘


級別:俠客 ( 9 )
發帖:994
威望:237 點
金錢:3959 USD
貢獻:1 點
註冊:2022-11-19

AI的监管确实很重要
TOP Posted: 05-19 12:22 #6樓 引用 | 點評
逐日


級別:聖騎士 ( 11 )
發帖:4136
威望:439 點
金錢:5541 USD
貢獻:11111 點
註冊:2015-03-30

感谢分享
TOP Posted: 05-19 12:34 #7樓 引用 | 點評
差半车麦秸


級別:俠客 ( 9 )
發帖:1210
威望:140 點
金錢:671 USD
貢獻:0 點
註冊:2023-01-22

回复点评,勿忘提肛!
TOP Posted: 05-19 12:48 #8樓 引用 | 點評
jmmjjmmj


級別:俠客 ( 9 )
發帖:1808
威望:198 點
金錢:2207 USD
貢獻:0 點
註冊:2023-01-26

到最后有结论么?
TOP Posted: 05-19 12:55 #9樓 引用 | 點評
胜利大逃亡


級別:聖騎士 ( 11 )
發帖:8584
威望:859 點
金錢:6638 USD
貢獻:2210 點
註冊:2022-03-22

谢谢分享
TOP Posted: 05-19 15:15 #10樓 引用 | 點評
巴黎伯伯


級別:騎士 ( 10 )
發帖:3239
威望:324 點
金錢:3427 USD
貢獻:0 點
註冊:2021-10-16


感谢分享
TOP Posted: 05-19 15:53 #11樓 引用 | 點評
下起了雨


級別:精靈王 ( 12 )
發帖:2035
威望:291 點
金錢:810754 USD
貢獻:37322 點
註冊:2018-10-07

感谢分享
TOP Posted: 05-19 16:44 #12樓 引用 | 點評
这是个问题啊


級別:精靈王 ( 12 )
發帖:25675
威望:2578 點
金錢:153 USD
貢獻:11921 點
註冊:2021-01-01

发帖辛苦
TOP Posted: 05-19 21:01 #13樓 引用 | 點評
沉睡的木玛


級別:精靈王 ( 12 )
發帖:25675
威望:2578 點
金錢:150 USD
貢獻:11921 點
註冊:2018-11-16

支持发帖
TOP Posted: 05-19 21:01 #14樓 引用 | 點評
鸭打鹅


級別:精靈王 ( 12 )
發帖:16585
威望:1587 點
金錢:40 USD
貢獻:8892 點
註冊:2022-02-02

感谢分享
TOP Posted: 05-19 21:02 #15樓 引用 | 點評
fq9200


級別:新手上路 ( 8 )
發帖:66
威望:10 點
金錢:704 USD
貢獻:10 點
註冊:2009-09-06

跟周受资一比,一个在天上,一个在地下
TOP Posted: 05-19 21:07 #16樓 引用 | 點評
囧囧侠


級別:俠客 ( 9 )
發帖:1287
威望:233 點
金錢:14589995 USD
貢獻:203 點
註冊:2011-10-11


很有意思
TOP Posted: 05-19 23:30 #17樓 引用 | 點評
yanruyi


級別:騎士 ( 10 )
發帖:1892
威望:190 點
金錢:204864 USD
貢獻:17000 點
註冊:2022-10-29

谢谢坛友分享
TOP Posted: 05-20 01:51 #18樓 引用 | 點評
吉尔


級別:俠客 ( 9 )
發帖:1104
威望:111 點
金錢:2325 USD
貢獻:3 點
註冊:2022-03-26

感谢你的分享
TOP Posted: 05-20 02:23 #19樓 引用 | 點評
美胸


級別:新手上路 ( 8 )
發帖:126
威望:13 點
金錢:235 USD
貢獻:0 點
註冊:2023-05-08

感谢作者的分享
TOP Posted: 05-20 02:26 #20樓 引用 | 點評
沙漠有鱼


級別:光明使者 ( 14 )
發帖:7499
威望:661 點
金錢:2135039074 USD
貢獻:1598888 點
註冊:2011-12-11

他也对全世界发出警告:AI有可能会对世界有害,为了应对日益强大的AI风险,我们需要加强监管和立法,而政府的干预极为重要——垬匪蠢苞闻言,就开会研究如何研发AI,然后用它专门危害世界,新冠病毒就是例子。
------------------------
v
TOP Posted: 05-20 02:54 #21樓 引用 | 點評
Meiam


級別:騎士 ( 10 )
發帖:5217
威望:522 點
金錢:8479 USD
貢獻:0 點
註冊:2016-03-08

的确如此
TOP Posted: 05-20 09:31 #22樓 引用 | 點評
cruelworm


級別:新手上路 ( 8 )
發帖:823
威望:83 點
金錢:1498 USD
貢獻:0 點
註冊:2006-12-30


1024
TOP Posted: 05-20 10:16 #23樓 引用 | 點評
魔力猪


級別:俠客 ( 9 )
發帖:1160
威望:117 點
金錢:1839299 USD
貢獻:1000 點
註冊:2011-06-06

感谢分享
TOP Posted: 05-20 10:41 #24樓 引用 | 點評

.:. 草榴社區 -> 技術討論區

快速回帖 頂端
內容
HTML 代碼不可用

使用簽名
Wind Code自動轉換

按 Ctrl+Enter 直接提交