24 جيجابايت من ذاكرة الوصول العشوائي في الهاتف الذكي؟ انها ليست مجنونة كما قد تظن.

انتشرت شائعات منذ فترة مفادها أنه سيكون هناك هواتف ذكية قادمة خلال العام المقبل ستحتوي على ذاكرة وصول عشوائي ضخمة تبلغ 24 جيجابايت. يعد هذا مبلغًا ضخمًا بأي مقياس، حيث أن تكوين ذاكرة الوصول العشوائي (RAM) الأكثر شيوعًا على أجهزة الكمبيوتر المخصصة للألعاب هو 16 جيجابايت متواضعة في وقت كتابة هذا التقرير. 24 جيجابايت من ذاكرة الوصول العشوائي يبدو مبلغًا مثيرًا للسخرية، لكن، وليس عندما يتعلق الأمر بالذكاء الاصطناعي.

الذكاء الاصطناعي متعطش لذاكرة الوصول العشوائي

إذا كنت تتطلع إلى تشغيل أي نموذج يعمل بالذكاء الاصطناعي على هاتف ذكي، فإن أول شيء تحتاج إلى معرفته هو أنه لتنفيذ أي نموذج بشكل أساسي، فأنت بحاجة إلى كثير من ذاكرة الوصول العشوائي. هذه الفلسفة هي سبب احتياجك للكثير VRAM عند العمل مع تطبيقات مثل Stable Diffusion، وينطبق ذلك على النماذج المستندة إلى النص أيضًا. في الأساس، عادةً ما يتم تحميل هذه النماذج على ذاكرة الوصول العشوائي (RAM) طوال مدة عبء العمل، وهي كذلك أكثير أسرع من التنفيذ من التخزين.

تعد ذاكرة الوصول العشوائي (RAM) أسرع لعدة أسباب، لكن السببين الأكثر أهمية هما أنها ذات زمن وصول أقل، نظرًا لأنها أقرب إلى وحدة المعالجة المركزية (CPU)، ولها نطاق ترددي أعلى. من الضروري تحميل نماذج اللغات الكبيرة (LLM) على ذاكرة الوصول العشوائي (RAM) بسبب هذه الخصائص، ولكن السؤال التالي الذي يتبع عادةً هو بالضبط كم ثمن يتم استخدام ذاكرة الوصول العشوائي (RAM) في هذه النماذج.

إذا كان Vicuna-7B سيعمل على تشغيل مساعد Google على أجهزة الأشخاص مع بعض المساعدة من الخدمات السحابية، فسوف تفعل ذلك في النظرية، تتمتع بجميع فوائد LLM التي تعمل على جهاز مع ميزة إضافية تتمثل في جمع البيانات المستندة إلى السحابة.

هناك الكثير مما يستحق النظر فيه عندما يتعلق الأمر ببعض برامج LLM قيد النشر حاليًا، وواحدة كنت ألعب بها مؤخرًا هي Vicuna-7B. إنها LLM تم تدريبها على مجموعة بيانات مكونة من 7 مليار معلمة يمكن نشرها على هاتف ذكي يعمل بنظام Android عبر MLC LLM، وهو تطبيق عالمي يساعد في نشر LLM. يستغرق الأمر حوالي 6 جيجابايت من ذاكرة الوصول العشوائي للتفاعل معها على هاتف ذكي يعمل بنظام Android. من الواضح أنها ليست متقدمة مثل بعض برامج LLM الأخرى الموجودة في السوق في الوقت الحالي، ولكنها تعمل أيضًا محليًا بالكامل دون الحاجة إلى اتصال بالإنترنت. للسياق، يشاع أن GPT-4 لديه 1.76 تريليون المعلمات، وGPT-3 لديه 175 مليار.

كوالكوم والذكاء الاصطناعي على الجهاز

بينما تتسابق العديد من الشركات لإنشاء نماذج لغوية كبيرة خاصة بها (وواجهات للتفاعل معها)، تركز شركة Qualcomm على مجال رئيسي واحد: النشر. الخدمات السحابية التي تستفيد منها الشركات من التكلفة ملايين لتشغيل أقوى برامج الدردشة الآلية، ويُقال إن برنامج ChatGPT التابع لشركة OpenAI يدير الشركة بما يصل إلى 700 ألف دولار أمريكي سنويًا. يوم. يمكن لأي عملية نشر على الجهاز تعمل على الاستفادة من موارد المستخدم أن توفر الكثير من المال، خاصة إذا كانت واسعة النطاق.

تشير كوالكوم إلى هذا باسم "الذكاء الاصطناعي المختلط"، وهو يجمع بين موارد السحابة والجهاز لتقسيم الحساب في المكان الأكثر ملاءمة. لن يعمل هذا مع كل شيء، ولكن إذا قام Vicuna-7B بتشغيل مساعد Google على أجهزة الأشخاص ببعض المساعدة من السحابة الخدمات، من الناحية النظرية، ستحصل على جميع مزايا LLM التي تعمل على جهاز مع ميزة إضافية تتمثل في التجميع البيانات المستندة إلى السحابة. وبهذه الطريقة، يتم تشغيله بنفس التكلفة التي يتحملها Google مثل المساعد ولكن دون أي نفقات إضافية.

هذه مجرد طريقة واحدة للذكاء الاصطناعي الموجود على الجهاز للتغلب على مشكلة التكلفة التي تواجهها الشركات حاليًا، ولكن هنا يأتي دور الأجهزة الإضافية. وفي حالة الهواتف الذكية، كوالكوم أظهر الانتشار المستقر على هاتف ذكي يعمل بنظام Android مدعوم بمعالج Snapdragon 8 Gen 2، وهو أمر قد تواجهه الكثير من أجهزة الكمبيوتر الحالية. ومنذ ذلك الحين، أظهرت الشركة أن ControlNet يعمل على جهاز يعمل بنظام Android أيضًا. من الواضح أنها كانت تقوم بإعداد أجهزة قادرة على تحمل أعباء عمل الذكاء الاصطناعي المكثفة لفترة من الوقت، وMLC LLM هي الطريقة التي يمكنك من خلالها اختبار ذلك الآن.

من لقطة الشاشة أعلاه، لاحظ أنني في وضع الطائرة مع إيقاف تشغيل Wi-Fi، ولا يزال يعمل بشكل جيد للغاية. فهو يُنشئ ما يقرب من خمسة رموز في الثانية، حيث يكون الرمز المميز حوالي نصف كلمة. لذلك، فهو يولد حوالي 2.5 كلمة في الثانية، وهو معدل سريع جدًا لشيء مثل هذا. إنها لا تتفاعل مع الإنترنت في وضعها الحالي، ولكن نظرًا لأن كل هذا مفتوح المصدر، فهي شركة يمكن أن يأخذ العمل الذي قامت به MLC LLM والفريق الذي يقف وراء نموذج Vicuna-7B وتنفيذه بطريقة أخرى مفيدة سياق.

تطبيقات الذكاء الاصطناعي التوليدي على الجهاز

لقد تحدثت مع كارل ويلتون، المدير الأول لإدارة المنتجات في شركة كوالكوم، المسؤول عن وحدة المعالجة المركزية، ومعالجة الإشارات الرقمية، والقياس، وأجهزة الذكاء الاصطناعي. لقد أخبرني بكل شيء عن التطبيقات المختلفة لنماذج الذكاء الاصطناعي التي تعمل على شرائح Snapdragon، وأعطاني فكرة عما قد يكون ممكنًا على شرائح Snapdragon اليوم. أخبرني أن الاستدلال على البلاط الصغير في Snapdragon 8 Gen 2 جيد بشكل لا يصدق مع المحولات، حيث أ المحول هو نموذج يمكنه تتبع العلاقات في البيانات المتسلسلة (مثل الكلمات في الجملة) ويمكنه التعلم أيضًا السياق.

ولتحقيق هذه الغاية، سألته عن متطلبات ذاكرة الوصول العشوائي (RAM) التي يشاع عنها حاليًا، وأخبرني أنه مع نموذج اللغة من أي نوع أو نطاق، فأنت في الأساس يحتاج لتحميله في ذاكرة الوصول العشوائي. ومضى يقول إنه يتوقع أنه إذا قامت إحدى الشركات المصنعة الأصلية بتنفيذ شيء مثل هذا في بيئة ذاكرة الوصول العشوائي (RAM) الأكثر محدودية، فمن المرجح أن قد يستخدمون نموذج لغة أصغر وربما أكثر تخصصًا في جزء أصغر من ذاكرة الوصول العشوائي (RAM) بدلاً من مجرد تشغيله من مساحة تخزين ذاكرة الوصول العشوائي (RAM). جهاز. سيكون الأمر بطيئًا للغاية ولن يكون تجربة مستخدم جيدة.

أحد الأمثلة على حالة الاستخدام المتخصصة هو ما تحدثت عنه شركة Qualcomm مؤخرًا في مؤتمر الكمبيوتر السنوي مؤتمر الرؤية والتعرف على الأنماط - يمكن للذكاء الاصطناعي التوليدي أن يعمل كمدرب للياقة البدنية إلى الأبد المستخدمين. على سبيل المثال، يمكن لبرنامج LLM ذو الأساس البصري تحليل موجز فيديو لمعرفة ما يفعله المستخدم، وتحليل ما إذا كان يفعل ذلك بشكل خاطئ، وإطعام يؤدي ذلك إلى نموذج لغة يمكنه صياغة ما يفعله المستخدم بشكل خاطئ، ثم استخدام نموذج الكلام لنقل تلك المعلومات إلى مستخدم.

من الناحية النظرية، يمكن أن يوفر OnePlus 16 جيجابايت من ذاكرة الوصول العشوائي للاستخدام العام ولكن 8 جيجابايت إضافية من ذاكرة الوصول العشوائي علاوة على ذلك. فقط تستخدم للذكاء الاصطناعي.

وبطبيعة الحال، فإن العامل المهم الآخر في الذكاء الاصطناعي على الجهاز هو الخصوصية. باستخدام هذه النماذج، من المحتمل جدًا أنك ستشارك أجزاء من حياتك الشخصية معهم عند طرح الأسئلة، أو حتى مجرد منح الذكاء الاصطناعي إمكانية الوصول إلى هاتفك الذكي قد يثير قلق الناس. أخبرني Whealton أن أي شيء يدخل إلى SoC يكون آمنًا للغاية وأن هذا "أحد الأسباب" وراء أهمية إجراء ذلك على الجهاز لشركة Qualcomm.

ولتحقيق هذه الغاية، أعلنت شركة Qualcomm أيضًا أنها تعمل مع Meta لتمكين المصدر المفتوح للشركة Llama 2 LLM سيتم تشغيله على أجهزة Qualcomm، ومن المقرر أن يكون متاحًا للأجهزة التي تبدأ في عام 2019 2024.

كيف يمكن دمج 24 جيجابايت من ذاكرة الوصول العشوائي في الهاتف الذكي

فيما تشير التسريبات الأخيرة إلى المرتقب يحتوي OnePlus 12 على ما يصل إلى 16 جيجابايت من ذاكرة الوصول العشوائي، قد تتساءل عما حدث لتلك الشائعات التي تبلغ سعتها 24 جيجابايت من ذاكرة الوصول العشوائي. الأمر هو أنه لا يمنع OnePlus من تضمين الذكاء الاصطناعي على الجهاز، وهناك سبب لذلك.

كما أشار لي ويلتون، عندما تتحكم في ذاكرة الوصول العشوائي الديناميكية (DRAM)، لا يوجد ما يمنعك من تقسيم ذاكرة الوصول العشوائي (RAM) بحيث لا يتمكن النظام من الوصول إليها كلها. من الناحية النظرية، يمكن أن يوفر OnePlus 16 جيجابايت من ذاكرة الوصول العشوائي للاستخدام العام ولكن 8 جيجابايت إضافية من ذاكرة الوصول العشوائي علاوة على ذلك. فقط تستخدم للذكاء الاصطناعي. في هذه الحالة، لن يكون من المنطقي الإعلان عنه كجزء من إجمالي عدد ذاكرة الوصول العشوائي (RAM)، لأنه لا يمكن لبقية النظام الوصول إليه. علاوة على ذلك، من المحتمل جدًا أن تظل كمية ذاكرة الوصول العشوائي هذه ثابتة حتى في تكوينات ذاكرة الوصول العشوائي بسعة 8 جيجابايت أو 12 جيجابايت نظرًا لأن احتياجات الذكاء الاصطناعي لن تتغير.

بمعنى آخر، ليس من المستبعد أن يظل OnePlus 12 مزودًا بذاكرة وصول عشوائي (RAM) تبلغ سعتها 24 جيجابايت؛ كل ما في الأمر أن 8 جيجابايت قد لا يكون متاحًا بشكل تقليدي. عادة ما تأتي مثل هذه التسريبات المبكرة من أشخاص قد يكونون مشاركين في الإنتاج الفعلي للجهاز، لذلك قد يكون الأمر أنهم كانوا يعملون مع 24 جيجابايت من ذاكرة الوصول العشوائي ولم يكونوا على علم بأنه يمكن حجز 8 جيجابايت لأغراض محددة للغاية. هذا مجرد تخمين من جهتي، وهي محاولة لفهم التسريبات حيث يمكن لكل من Digital Chat Station وOnLeaks كلاهما كن صحيحا.

ومع ذلك، فإن ذاكرة الوصول العشوائي (RAM) التي تبلغ سعتها 24 جيجابايت تعد كمية هائلة في الهاتف الذكي، ومع تقديم ميزات مثل هذه، لم يكن الأمر أكثر وضوحًا من أي وقت مضى أن الهواتف الذكية هي مجرد أجهزة كمبيوتر فائقة القوة ولا يمكن أن تصبح أكثر من ذلك قوي.