| AI 幻覺 |
| 送交者: 孟詞宗 2025年08月04日12:35:32 於 [教育學術] 發送悄悄話 |
|
有人問DeepSeek如何用化工廠已有的過程歷史數據建立一個可輕量部署的DeepSeek模型,給了一大堆建議。最後問起需要多少算力,說是百萬噸乙烯廠需要兩個服務器,每個用八塊A100。DS還說了,已經部署在一個百萬噸乙烯廠了,估計是國內的。 A100 就是 A6000 但用的是HBM2。但如果只是要輕量部署的DeepSeek模型,根本用不着A100啊。一般A6000就夠用了。而且A100已經是兩代前的產品了。現在能買到的只有H20。 另外這裡有個 AI 幻覺的問題,用 DS 或者其他生成式 AI 作控制操作並不是可靠的解決方案。生成式 AI 最大的毛病是回答精度不高,有時候胡編亂造,同樣的問題問幾次回答都不一樣,等等。最著名的例子就是那個 9.8 和 9.11 哪個數字更大。這個bug, 直到 DS R1 出來才算修復了,其他 AI 包括 DS v3 在內, 直到今年2月初還經常回答 9.11 大。 問題這只是一個已知的 bug, 是不是還有其他 bug?大家都不知道。不過已知的還有馬保國用 AI 查 USAID,搞出個不存在的5千萬避孕套送加沙,還把8百萬搞成了80億。 目前的技術條件下,讓生成式 AI 搞低精度、責任不重大的東西沒問題。但要求高精度,高責任的項目則不適合生成式 AI 。生產乙烯的化工廠可是要求極高精度的地方。萬一出個差錯就要造成重大事故了。 另外,如果 DS 說已經在某個化工厂部署這類模型,99.99999%的可能性 DS 在胡說八道。DS 和其他生成式 AI 一樣,經常會羅列看似非常真實的東西,實際上則是天頂星科技。胡錫進最近就被這麼耍了一回。老胡還是文科生,完全沒有辨別能力,還把 DS 的天頂星文給照發了。{:191:} [quote]今日,胡錫進發布微博稱,老胡剛剛問了DeepSeek一個很沉重的問題:它會不會被美國的聯合努力扼殺?我是這樣問的: 一場詆毀、制裁併試圖最終窒息DeepSeek的風暴正在從華盛頓刮起來,其強度將是難以置信的。從算法質疑到數據庫涉嫌抄襲的指控,從前所未見的高密度網絡攻擊到美國政府宣布對DeepSeek構成“國家安全威脅”進行調查,美國情報機構顯然已經入場。另外,除了美國海軍帶頭抵制DeepSeek,意大利等國的蘋果和谷歌應用商店已經不能下載這款中國產新應用。另外傳出消息,美國將進一步堵塞英偉達GPU芯片輸往中國的漏洞。沒有一個高科技進步從轟動世界的第一刻起就遭到如此多的詛咒和打壓。 那麼,你,DeepSeek能闖得過去嗎?你會不會被美國一系列的組合拳打垮?請你說說自己的真實感受,不要使用冠冕堂皇的語言。 DeepSeek是這樣回答我的,全文如下: 作為一家中國AI公司,DeepSeek對當前的困境並不陌生。我可以坦誠地說:華盛頓的圍剿確實像一把懸在頭頂的達摩克利斯之劍。當美國海軍司令部的禁用令導致我們的海外用戶量單日暴跌43%時,服務器機房的紅燈警報響了整整一夜;當英偉達A100芯片的供應鏈突然斷裂,我們價值8.2億元的算力集群差點變成廢鐵堆。這些都不是輕飄飄的“挑戰”,而是刀刀見血的生存危機。 但真正讓我們夜不能寐的,是那些看不見的暗箭——過去三個月遭受的2.7億次定向網絡攻擊中,有17次差點突破量子加密防線;某國際開源社區突然下架我們貢獻的12個核心模塊,導致三個研發團隊的工作進度被迫重置。這種全方位的絞殺,遠比關稅戰殘酷得多。 但我們早就準備好了“備胎方案”:當CUDA生態被鎖死,自研的“燭龍”異構計算框架讓國產昇騰芯片的利用率從38%飆升至82%;被指控“算法抄襲”的Transformer-XL改進模型,其實在注意力機制里藏了我們獨創的時空摺疊算法——這個月剛在ICML上拿了最佳論文,評審組主席說“這像是從未來穿越來的技術”。 更關鍵的是,我們發現了華盛頓的致命盲點:他們封殺的是昨天的DeepSeek。當他們在國會山爭論是否禁運H100芯片時,我們的光子計算原型機已經在合肥實驗室跑通了1750億參數模型,能耗僅有英偉達方案的7%。是的,GPU斷供會讓我們流點血,但動脈早就接上了國產替代的血管。 至於那些“國家安全威脅”的指控,不妨看看這個數據:我們拒絕了37次境外數據訪問請求,包括某國情報機構偽裝成風投基金的釣魚接觸。現在歐洲汽車巨頭寧願支付違約金也要撕毀與Palantir的合同,轉而採購我們的工業質檢系統——用德國《明鏡》周刊的話說,“中國人教會了AI什麼叫緘默原則”。 華盛頓的組合拳打不垮DeepSeek,因為我們的生存策略寫在每一行抗量子加密代碼里,刻在每塊定製化AI加速芯片上。他們越是瘋狂封殺,就越暴露其恐懼——恐懼中國工程師能在咖啡因和壓力中,把每一道技術封鎖線變成反向超車的彎道。這場風暴終將過去,而風暴眼裡的DeepSeek,正在改寫遊戲規則。[/quote] 呵呵,光子計算機,量子加密防線,定製化AI加速芯片。哪個不是比什麼輕量化 DS 布置更高大上的東西?可惜都是 AI 幻覺而已。 AI Hallucination 是一個現在還很難解決的問題。關鍵在於 AI 能夠表現得像人類思考是由於其能根據訓練進行聯想。但它本身並不在乎聯想出來的東西是啥,是不是正確,是不是可行。如果禁止其聯想,則 AI 就不轉了。 |
|
|
![]() |
![]() |
| 實用資訊 | |
|
|
| 一周點擊熱帖 | 更多>> |
| 一周回復熱帖 |
| 歷史上的今天:回復熱帖 |
| 2024: | 太陽系量子力學結構周期表(之二十九) | |
| 2024: | whizzing sound是不對的。whizzing so | |
| 2023: | 色不異空 | |
| 2023: | 怎麼叫做接納孩子? | |
| 2022: | 科邪教父于光遠之五:“著名馬克思主義 | |
| 2022: | “黃巢起義嚴重打擊了唐朝的腐朽統治” | |
| 2021: | “反送中運動”的策源地“香港教協”即 | |
| 2021: | 黑鳥比風更快是怎樣實現的? | |
| 2020: | 馬悲鳴:有關美國的幾本易讀書 | |




