Soitdoesn'tfillmewithencouragementwhenIseeaCEOofaverymajorcompanysayingsomethinglike, "Iwantpeopletoknowwemadeourcompetitordance."

因此，当我看到一家大型公司的 CEO说“我想让人们知道对手对我们言听计从”之类的话时，我并不觉得信心倍增。

Thatisnotthetypeofmindsetweneedhere.

这不是我们需要的那种心态。

WeneedleaderswhoarewillingtoflipMoloch'splaybook, whoarewillingtosacrificetheirownindividualchanceofwinningforthegoodofthewhole.

我们需要愿意推翻摩洛克故事的领导者，他们愿意为了整体利益牺牲自己的获胜机会。

Now, fortunately, thethreeleadinglabsareshowingsomesignsofdoingthis.

所幸有三家头部实验室都或多或少展现了这种迹象。

Anthropicrecentlyannouncedtheirresponsiblescalingpolicy, whichpledgestoonlyincreasecapabilitiesoncecertainsecuritycriteriahavebeenmet.

Anthropic最近宣布了负责任的扩展政策，该政策承诺只有在满足特定安全标准后才会提升性能。

OpenAIhaverecentlypledgedtodedicate20 percentoftheircomputepurelytoalignmentresearch.

OpenAI最近承诺将其 20% 的算力完全用于“对齐”研究。

AndDeepMindhaveshownadecade-longfocusofscienceaheadofcommerce, liketheirdevelopmentofAlphaFold, whichtheygaveawaytothesciencecommunityforfree.

DeepMind已经在过去十年中表现出对科学的关注优先于商业，例如他们开发的 AlphaFold，将其免费赠与科学界。

Theseareallstepsintherightdirection, buttheyarestillnowhereclosetobeingenough.

这些都是朝着正确方向迈出的步伐，但还远远不够。

Imean, mostofthesearecurrentlyjustwords, they'renotevenprovenactions.

我想说目前大都只是言语，甚至不是经过验证的行动。

SoweneedaclearwaytoturntheAIraceintoadefinitiveracetothetop.

我们需要一种明确的方法将 AI竞赛转变为明确向上的竞争。

Perhapscompaniescanstartcompetingoverwhocanbewithinthesemetrics, overwhocandevelopthebestsecuritycriteria.

也许各公司可以开始争夺谁可以达到这些指标，谁可以制定出最佳的安全标准。

Araceofwhocandedicatethemostcomputetoalignment.

竞赛谁能将最多的算力投入到对齐上。

NowthatwouldtrulyflipthemiddlefingertoMoloch.

这确实是与摩洛克陷阱背道而驰的做法。

Competitioncanbeanamazingtool, providedwewielditwisely.

如果我们明智地运用竞争，它会是一个强大的工具。

Andwe'regoingtoneedtodothatbecausethestakesweareplayingforareastronomical.

我们之所以需要这样做，是因为我们手上的赌注是天文数字。

IfwegetAI, andespeciallyAGI, wrong, itcouldleadtounimaginablecatastrophe.

如果我们让 AI，尤其是 AGI，跑偏了，可能会导致难以想象的灾难。

Butifwegetitright, itcouldbeourpathoutofmanyoftheseMolochtrapsthatI'vementionedtoday.

但如果我们做对了，可能就会是我们摆脱多次提及的摩洛克陷阱的出路。

Andasthingsgetcrazieroverthecomingyears, whichthey'reprobablygoingto, it'sgoingtobemoreimportantthaneverthatwerememberthatitistherealenemyhere, Moloch.

接下来几年，情况会越来越疯狂，确实可能如此，我们必须记住摩洛克才是我们真正的敌人。

NotanyindividualCEOorcompany, andcertainlynotoneanother.

不是哪个 CEO，哪家公司，当然也不是彼此。

Sodon'thatetheplayers, changethegame.

不要憎恨玩家，去改变游戏吧。