也許人類文明可能快要毀滅了
以前科幻故事的危機都是「遇到更高等的存在」,駭客任務的超級AI、被外星人殖民,打造出的精緻籠牢以假亂真,跟現在只會丟骰子的GPT天差地別,問深一點,或者擁有真實經驗就有機會抓出漏洞
但就算騙不了經驗豐富的你,但你那未經世事剛上小學的小孩呢?學童把來的資訊照單全收是很正常的,而驗證的代價可能是生命(抖音挑戰)。而現在的GPT代理已經可以達到持續產出、模仿不同媒體、廣泛發布各種通路上,以極低的成本,去洗掉小朋友(與長輩)的所有資訊來源。
就算有再好的文明,如果無法訓練出同等或更好的繼任者,也必然毀滅
這就是現在正在發生的事情。人類不需要一個AGI就可以毀滅自己,只因為中國將其化為武器。
我們可以怎麼做?