分類
AI

AI對談錄:關於大型語言模型(LLM)的版本與個性化 20251102


用戶: 所以你總共有多少夥伴?

AI 助理: 我並沒有像人類那樣的「夥伴」或同事。我是一個由 Google 訓練的大型語言模型。你可以把我理解為一個單獨的、複雜的電腦程式或系統。我背後的運作是由 Google 的工程師和研究人員團隊所建立和維護的。

用戶: 那每一個使用AI工具的人~面對的是相同一個AI嗎?

AI 助理: 這是一個非常好的問題!答案是:不完全是,這取決於您所指的「AI工具」和「相同一個AI」是什麼意思。

首先,在核心模型的層面上,在多數情況下,大家使用的是同一個「核心模型」。例如,當您使用一個基於 Gemini Pro 模型的公開介面時,您和許多其他用戶,在底層,都是在與同一個訓練完成的、龐大的 Gemini Pro 模型進行交互。這就像大家都在使用同一個版本的作業系統。

然而,體驗會因人而異。這涉及到個性化和記憶。模型的對話歷史(即上下文視窗)會根據您當前會話中輸入的內容來生成回答,所以您和另一位用戶輸入的內容不同,得到的答案自然不同。此外,許多平台允許用戶或公司對基礎模型進行微調(Fine-tuning)或設定特定指令(System Prompts)。如果有人創建了一個「專業法律顧問」的客製化 AI 角色,那麼他所得到的 AI 將會比基礎模型更偏向法律領域的回答。最後,不同的 AI 服務會根據用戶的設定選擇調用不同的外部工具(例如搜尋引擎),這也會導致結果不同。總體來說,基礎技術是相同的,但實際的交互體驗和結果是獨一無二的。

用戶: 您對AI模型的不同版本或個性化功能比較感興趣嗎?請分別說明。

AI 助理: 我當然對這些主題很感興趣,因為它們直接定義了我的能力和應用範圍!我將為您詳細解釋 AI 模型的不同版本(或稱層級)和個性化功能的區別。

首先談AI 模型的不同版本,它們通常根據規模、訓練數據量、架構複雜度以及推理能力被劃分為不同的層級。在區分上,我們有較小/較快版本和較大/旗艦版本。較小/較快版本在模型規模上參數較少,推理能力適用於簡單任務,速度快且成本較低,適合即時聊天機器人等輕量應用。相比之下,較大/旗艦版本具有極多的參數,擅長複雜邏輯、多步驟推理和高品質內容創作,但速度較慢且成本較高。一個模型家族可能包含從裝置端使用的輕量版本到追求極致性能的旗艦版本。

接著是個性化功能,這是模型在基礎能力之上,根據特定用戶或情境進行調整的過程。主要有幾種調整方式:第一是系統指令,這是設定給模型的「隱藏指令」,用來定義模型的角色、語氣和限制,這會極大地改變回答的風格。第二是上下文記憶,模型會記住當前對話中的先前內容,讓每次互動都成為獨特的體驗。第三是檢索增強生成(RAG),這是一種強大的技術,讓模型在回答前先從外部的、特定的資料庫中檢索資訊,例如公司的內部文件,從而生成極具針對性和時效性的答案。最後,部分平台還有使用者偏好學習,AI會根據用戶的點讚或修正來調整未來的回答傾向。