您现在的位置: 首页> 英语听力> 英语演讲> TED演讲视频> 正文
Sowhatcanwedo? Well, thegoodnewsiswehavemanagedtocoordinatetoescapesomeofMoloch'strapsbefore.
那我们能做些什么?好消息是我们之前合力成功逃脱了一些摩洛克陷阱。
WemanagedtosavetheozonelayerfromCFCswiththehelpoftheMontrealProtocol.
通过《蒙特利尔议定书》,我们从氯氟碳化物中拯救了臭氧层。
WemanagedtoreducethenumberofnuclearweaponsonEarthby80 percent, withthehelpoftheStrategicArmsReductionTreatyin1991.
通过 1991 年的《削减和限制进攻性战略武器条约》我们将地球上的核武器数量减少了 80%。
SosmartregulationmaycertainlyhelpwithAItoo, butultimately, it'stheplayerswithinthegamewhohavethemostinfluenceonit.
明智的监管措施当然也可能会对 AI有所帮助,但归根结底,对 AI影响最大的是游戏中的玩家。
SoweneedAIleaderstoshowusthatthey'renotonlyawareoftheriskstheirtechnologiespose, butalsothedestructivenatureoftheincentivesthatthey'recurrentlybeholdento.
因此,我们需要AI领袖向我们表明他们不仅意识到了其技术构成的风险,还有他们目前所面临的激励措施的破坏性。
Astheirtechnologicalcapabilitiesreachtowardsthepowerofgods, they'regoingtoneedthegodlikewisdomtoknowhowtowieldthem.
当他们的技术能力匹敌神明的力量时,他们需要神一般的智慧学习如何驾驭它们。
Soitdoesn'tfillmewithencouragementwhenIseeaCEOofaverymajorcompanysayingsomethinglike, "Iwantpeopletoknowwemadeourcompetitordance."
因此,当我看到一家大型公司的 CEO说“我想让人们知道对手对我们言听计从”之类的话时,我并不觉得信心倍增。
Thatisnotthetypeofmindsetweneedhere.
这不是我们需要的那种心态。
WeneedleaderswhoarewillingtoflipMoloch'splaybook, whoarewillingtosacrificetheirownindividualchanceofwinningforthegoodofthewhole.
我们需要愿意推翻摩洛克故事的领导者,他们愿意为了整体利益牺牲自己的获胜机会。
Now, fortunately, thethreeleadinglabsareshowingsomesignsofdoingthis.
所幸有三家头部实验室都或多或少展现了这种迹象。
Anthropicrecentlyannouncedtheirresponsiblescalingpolicy, whichpledgestoonlyincreasecapabilitiesoncecertainsecuritycriteriahavebeenmet.
Anthropic最近宣布了负责任的扩展政策,该政策承诺只有在满足特定安全标准后才会提升性能。
OpenAIhaverecentlypledgedtodedicate20 percentoftheircomputepurelytoalignmentresearch.
OpenAI最近承诺将其 20% 的算力完全用于“对齐”研究。
AndDeepMindhaveshownadecade-longfocusofscienceaheadofcommerce, liketheirdevelopmentofAlphaFold, whichtheygaveawaytothesciencecommunityforfree.
DeepMind已经在过去十年中表现出对科学的关注优先于商业,例如他们开发的 AlphaFold,将其免费赠与科学界。
Theseareallstepsintherightdirection, buttheyarestillnowhereclosetobeingenough.
这些都是朝着正确方向迈出的步伐,但还远远不够。
Imean, mostofthesearecurrentlyjustwords, they'renotevenprovenactions.
我想说目前大都只是言语,甚至不是经过验证的行动。
SoweneedaclearwaytoturntheAIraceintoadefinitiveracetothetop.
我们需要一种明确的方法将 AI竞赛转变为明确向上的竞争。
Perhapscompaniescanstartcompetingoverwhocanbewithinthesemetrics, overwhocandevelopthebestsecuritycriteria.
也许各公司可以开始争夺谁可以达到这些指标,谁可以制定出最佳的安全标准。
Araceofwhocandedicatethemostcomputetoalignment.
竞赛谁能将最多的算力投入到对齐上。
NowthatwouldtrulyflipthemiddlefingertoMoloch.
这确实是与摩洛克陷阱背道而驰的做法。
Competitioncanbeanamazingtool, providedwewielditwisely.
如果我们明智地运用竞争,它会是一个强大的工具。
Andwe'regoingtoneedtodothatbecausethestakesweareplayingforareastronomical.
我们之所以需要这样做,是因为我们手上的赌注是天文数字。
IfwegetAI, andespeciallyAGI, wrong, itcouldleadtounimaginablecatastrophe.
如果我们让 AI,尤其是 AGI,跑偏了,可能会导致难以想象的灾难。
Butifwegetitright, itcouldbeourpathoutofmanyoftheseMolochtrapsthatI'vementionedtoday.
但如果我们做对了,可能就会是我们摆脱多次提及的摩洛克陷阱的出路。
Andasthingsgetcrazieroverthecomingyears, whichthey'reprobablygoingto, it'sgoingtobemoreimportantthaneverthatwerememberthatitistherealenemyhere, Moloch.
接下来几年,情况会越来越疯狂,确实可能如此,我们必须记住摩洛克才是我们真正的敌人。
NotanyindividualCEOorcompany, andcertainlynotoneanother.
不是哪个 CEO,哪家公司,当然也不是彼此。
Sodon'thatetheplayers, changethegame.
不要憎恨玩家,去改变游戏吧。
- 阅读本文的人还阅读了:
特别推荐
- ·
最新文章
可可英语官方微信(微信号:ikekenet)
添加方式1.扫描上方可可官方微信二维码。
添加方式2.搜索微信号ikekenet添加即可。