由OpenAI前首席科學家Ilya Sutskever聯(lián)合創(chuàng)立的AI初創(chuàng)公司Safe Superintelligence（SSI）已籌集10億美元現(xiàn)金，以幫助開發(fā)遠遠超過人類能力的安全的AI系統(tǒng)。SSI目前擁有10名員工，計劃利用這筆資金來獲得計算能力，并雇傭頂尖人才。SSI將專注于在加州帕洛阿爾托（Palo Alto）和以色列特拉維夫（Tel Aviv）建立一個高度可信的小型研究人員和工程師團隊。
SSI拒絕透露其估值，但知情人士預計，其估值約為50億美元。在此之前，人們對資助這些AI初創(chuàng)公司的興趣有所減弱，因為這些公司可能在很長一段時間內(nèi)無利可圖。但SSI這筆交易表明，一些投資者仍愿意對專注于基礎AI研究的杰出人才進行巨額押注。
參與SSI本輪融資的投資者包括頂級風險投資公司Andreessen Horowitz、紅杉資本、DST Global和SV Angel。此外，由Github前CEO Nat Friedman和SSI首席執(zhí)行官Daniel Gross經(jīng)營的投資公司NFDG也參加了投資。
當前，AI安全，即防止AI造成傷害，是一個熱門話題。因為人們擔心失去控制的AI可能會損害人類的利益，甚至導致人類滅絕。
近日，加州立法者通過了一項備受爭議的法案，旨在對AI設立新的限制，確保AI技術既具有創(chuàng)新性，也具備安全性和可靠性。但該法案卻引發(fā)了行業(yè)分裂，遭到了OpenAI和谷歌等公司的反對，但得到了Anthropic和埃隆·馬斯克的xAI的支持。
Sutskever今年37歲，是AI領域最具影響力的技術專家之一。受OpenAI CEO薩姆·奧特曼（Sam Altman）被罷免一事的影響，Sutskever在OpenAI董事會的作用被削弱。后來，他被董事會除名，并于5月離開了公司。6月，他與Gross和OpenAI前研究員Daniel Levy共同創(chuàng)立了SSI。
Sutskever稱，他的新項目很有意義，因為他“發(fā)現(xiàn)了一座山，與我正在研究的山有點不同。”SSI目前非常注重招聘符合其文化的員工。Gross稱，他們花了幾個小時來審查候選人是否具有“良好的品格”，并正在尋找具有非凡能力的人，而不是過分強調(diào)該領域的資歷和經(jīng)驗。
SSI還表示，計劃與云提供商和芯片公司合作，為其計算能力需求提供資金，但尚未決定與哪些公司合作。通常，AI初創(chuàng)公司會選擇與微軟和英偉達等公司就合作，以滿足其基礎設施需求。 
