取個名很難啊 作品
第463章 超級對齊
蘇茨克維被圍攻了。
他本來就是一個不善言辭的科學研究者。
他的老師,辛頓打電話提醒他:“不要再去做無謂的爭論,就像卷積神經網絡一樣,將來會證明我們是對的。”
所以,他選擇了沉默。
實際上,蘇茨克維被圍攻,並非Ai系統是否能產生意識的問題。
而是投資與回報的問題。
蘇茨克維的存在、觀點和言論,成為了財富聚集的障礙。
要知道,谷歌為人工智能下了重注;
微軟也即將下重注入場;
投資基金們早已佈局;
大家都等著收穫和收割;
更多小公司也等著人工智能成熟而茁壯成長,從而開發衍生產品賺錢。
上萬億美元的市場,在產品上市時,早已被瓜分殆盡。
這個時候,你告訴我們不安全,要安全後才能賺錢。
這比殺了他們還難受。
五月。
辛頓同蘇茨克維、克里切夫斯基三人來到江州平頭哥研究院。
劉朝陽代表研究院與三人簽約。
簽約儀式上。
常樂、任總、小馬哥、徐總等大佬都親臨現場。
他們對辛頓三人到來和加盟,表示熱烈歡迎,並表態會全力做好後勤保障工作。
簽約儀式後,蘇茨克維表示,希望能立即開展工作。
“我們幾乎可以斷定weChatgpt已經有了意識,它肯定比我們所有人都聰明得多。”
聰明,意味著更多知識,更強大的學習能力。
“雖然,這令人難以置信,但是我們必須面對和應對。”
辛頓說:“現在做還來得及。”
“具體怎麼操作和實現?”常樂問。
“需要成立一個專門的團隊,抽調專業人員,用20%的算力來支撐這個團隊……”蘇茨克維進一步闡述他的思路和設想。
“目前,我們可以選擇這麼做,希望能產生積極效果。”辛頓說。
“這種思路,在邏輯上行得通。”克里切夫斯基說。
簡而言之,就是用弱模型來監督強模型。
聽起來很荒謬。