謀智基金會(huì)計(jì)劃推出離線的本地AI 讓每個(gè)人都可以私密使用AI – 藍(lán)點(diǎn)網(wǎng)
目前 AI 技術(shù)的謀智快速發(fā)展已經(jīng)讓很多用戶日常工作離不開 AI，不過現(xiàn)在的基金 AI 多數(shù)都是基于云端運(yùn)行的，也就是計(jì)劃推天津河西（大活）上門vx《749-3814》提供外圍女上門服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達(dá)用戶提交的數(shù)據(jù)有潛在的泄露風(fēng)險(xiǎn)。
這個(gè)時(shí)候關(guān)注隱私的出離謀智基金會(huì)站出來了，謀智基金會(huì)宣布推出一個(gè)名為 Llamafile 的本地新開源計(jì)劃，該開源計(jì)劃目標(biāo)是個(gè)人幫助人們?cè)谧约旱挠布线\(yùn)行大型語言模型，不需要專用的私密使用 GPU、CPU 或者 NPU（但有 GPU 的藍(lán)點(diǎn)話可以更好的運(yùn)行）。
Llamafile 的謀智工作原理是將人工智能聊天機(jī)器人的所有復(fù)雜性壓縮為一個(gè)文件，然后該文件可以在 Windows、基金Mac、計(jì)劃推天津河西（大活）上門vx《749-3814》提供外圍女上門服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達(dá)Linux、出離OpenBSD、本地FreeBSD、個(gè)人NetBSD 上運(yùn)行，私密使用并且?guī)缀醪恍枰惭b或者配置，也就是即開即用。
這種 LLM 是完全在本地運(yùn)行的，不需要以來第三方商業(yè)公司提供的云端算力，數(shù)據(jù)也都是保存在本地的，不會(huì)離開用戶的設(shè)備，甚至如果用戶愿意的話，可以將自己的日常對(duì)話后的機(jī)器人模型復(fù)制到其他機(jī)器上繼續(xù)使用，這樣不用重新優(yōu)化提示詞。
目前謀智基金會(huì)并不是唯一一家要打造本地 AI 的公司，谷歌最近向 Pixel 8 Pro 提供的 Gemini 變種版本 AiCore 實(shí)際上就是一種本地 AI，利用本地設(shè)備的算力來執(zhí)行某些操作，不過目前 AiCore 的公開信息還比較少。
謀智基金會(huì)相信開源是解決各類隱私問題最有力的解決方案之一，可以通過開源解決隱私、訪問、控制的問題，也就是我們的對(duì)話被誰聽到？我們的數(shù)據(jù)會(huì)被如何處理？誰能決定 AI 回答或不回答某些問題。
至于 Llamafile 項(xiàng)目，目前謀智基金會(huì)已經(jīng)注意到一些比較有潛力的項(xiàng)目，第一個(gè)是 Llama.cpp 項(xiàng)目，這個(gè)開源項(xiàng)目讓普通的消費(fèi)級(jí)設(shè)備也可以運(yùn)行 LLM，而且速度并不算慢；第二個(gè)是 Cosmopolitan 項(xiàng)目，該項(xiàng)目可以一次編譯程序在各種操作系統(tǒng)和硬件上運(yùn)行。
當(dāng)然這個(gè)項(xiàng)目沒這么快搞定，謀智基金會(huì)希望開發(fā)者或者對(duì) LLM 感興趣的用戶一起參與：https://github.com/Mozilla-Ocho/llamafile