什麼是端側AI

大模型跑在手機/本地電腦上,不往雲端傳數據。隱私更安全,斷網也能用。

優點

隱私保護:數據不出本地;響應快;不用聯網;零成本調用。

局限

模型小(7B以下)能力有限;手機內存要大;耗電;推理速度慢。

聲明:本站文章均來源於原創、轉載、AI生成等渠道,如有版權及其他問題,請點擊反饋,我公司會盡快查實並處理。