cream cat

隨著 ai 技術的爆火，尤其是 GPT 的出圈，湧現這個詞一直在我腦海裡來回的閃了又閃，按照 openai 公司對它們的模型能力的解釋來看，他們並不知道為什麼 GPT 從 3.5 開始出現超乎尋常的表現，或者說無法從原理上來解釋這個表現，其實，這個詞早就已經有了。

什麼是湧現現象？從專業的名詞解釋是這樣寫的：湧現現象是指在一個系統中，由於大量微小的交互作用和相互作用，出現了一些出乎意料的整體性質或行為。這些整體性質或行為不能簡單地通過分析系統中各個組成部分的行為來理解或預測，而是需要考慮系統整體的交互作用。
一個著名的例子是螞蟻的行為。單個螞蟻的行為很簡單，但當它們以一定的方式相互作用時，整個螞蟻群可以表現出非常複雜的行為，如建造螞蟻窩、尋找食物和保護螞蟻群等。

那麼對於大型 AI 模型來說，其實也是這個道理，隨著訓練數據量的提升，本來很簡單的預測模型突然出現了邏輯理解能力，而因為這個能力可以帶來更好的預測，更好的預測繼續提高邏輯能力，飛輪效應產生，湧現出現。另外一個例子就是社交網絡，當人群不斷在社交中連接和影響的時候，反過來，社交網絡本身也會對個人產生影響，彼此相互作用導致整個網絡出現令人意外的狀態或情景。

有很多國內的專家對 AI 是否有邏輯能力一直持有懷疑態度，他們認為語言模型無法產生邏輯，論點也是很簡單，邏輯能力只有高等智慧的生物才會掌握，比如人類，可是人類並不是出生就有這個能力的，人類剛出生的時候只有本能反應，不管是呼吸能力還是進食能力，大腦神經元的發育是隨著人類成長逐漸成熟，直到 20 歲以後才算完全發育完整，那麼 AI 為什麼就會不同呢？

另外 AI 相比人類有優勢的地方在於，人類不管是細胞還是神經元的數量都有理論的上限，無法無限制的生長和擴張，但是作為矽基的電子計算機，其計算芯片可以無限的擴展和升級，英偉達最新的 A100 使用的是 7NM 工藝，而台積電很快要量產 5NM 以下的工藝，也就是後續高性能的 GPU 會發揮出比目前還要強大的計算能力。

對於未來 GPT 到底能有多大的潛力，業界說法不一，但是按照目前的迭代速度，我相信在 2 年內就可以看到生成式模型可以很好的完成視頻類創建任務。另外中國大陸的幾家公司也在開發相關產品，比如文言一心等，但是考慮到中國對文化產業的限制由來已久，而大語言模型如何審查？畢竟熱點是動態的，審查也是動態的，而模型如果無法做到自我審查，則根本不會被大陸政府所推廣，不信的看看比特幣，和 crypto。