دليل عملي · البيانات والحوكمة
هل يمكن لموظفيّ استخدام ChatGPT في العمل دون تعريض بيانات الشركة للخطر؟
فريق جذور التحريريتاريخ المراجعة: 6 دقائق قراءة
الإجابة المختصرة
نعم — إذا حددت الشركة أدوات الذكاء الاصطناعي المعتمدة، وهيأتها للاستخدام المؤسسي، وأوضحت للموظفين ما يجوز إدخاله وما لا يجوز. وأبرز المخاطر: خروج بيانات سرية أو شخصية من المؤسسة، والوثوق بإجابات غير دقيقة، واستخدام حسابات شخصية خارج رقابة الشركة. وتنظم قوانين حماية البيانات في المنطقة، مثل النظامين السعودي والإماراتي، البيانات الشخصية المدخلة في هذه الأدوات، لذا حدّد البيانات المعنية قبل السماح بالاستخدام.
أهم النقاط
- 01
نادرًا ما ينجح الحظر؛ فالموظفون يلجؤون إلى حساباتهم الشخصية. وفّر خيارًا معتمدًا.
- 02
اختر خطط أعمال أو خدمات تتحكم في إعدادات بياناتها والاحتفاظ بها واستخدامها في التدريب.
- 03
صنّف البيانات: عامة وداخلية وسرية وشخصية — وضع قاعدة لكل فئة.
- 04
اشترط مراجعة بشرية قبل وصول المخرجات إلى العملاء أو القرارات.
- 05
البيانات الشخصية في المدخلات قد تُنشئ التزامات بموجب قوانين حماية البيانات، ومنها النقل عبر الحدود.
01
ما الذي يمكن أن يحدث فعلًا
- التسرب: يلصق الموظفون عقودًا أو قوائم عملاء أو بيانات شخصية في أدوات لا تتحكم فيها الشركة.
- الإجابات الخاطئة: محتوى واثق لكنه غير صحيح يُرسل إلى العملاء أو يُستخدم في التقارير.
- الذكاء الاصطناعي الخفي: حسابات شخصية وإضافات متصفح تتجاوز أمن الشركة وسجلاتها.
- التلاعب: مستندات أو صفحات ويب تحتوي تعليمات مخفية تغيّر ما تفعله الأداة.
تضع قائمة OWASP لأهم مخاطر تطبيقات النماذج اللغوية الكبيرة كشف المعلومات الحساسة وحقن الأوامر بين أهم المخاطر في التطبيقات المبنية على هذه النماذج.[3]
02
ماذا يعني قانون حماية البيانات لأدوات الذكاء الاصطناعي
عندما يُدخل موظف بيانات شخصية في أداة ذكاء اصطناعي فهذه معالجة بموجب قانون حماية البيانات — وإذا كانت الأداة تعمل خارج الدولة فقد تكون نقلًا عبر الحدود أيضًا. ويقيّد نظام حماية البيانات الشخصية السعودي النقل خارج المملكة بأغراض ومسارات محددة، ويسمح القانون الاتحادي الإماراتي (المرسوم بقانون اتحادي رقم 45 لسنة 2021) بالنقل عبر الملاءمة أو بدائل واستثناءات محددة.[1][2]
كما نشرت سدايا إرشادات للذكاء الاصطناعي التوليدي موجهة للعامة، تغطي الاستخدام المسؤول والخصوصية والتحقق من المخرجات.[4]
هذه ليست استشارة قانونية. تلخص موجزاتنا القُطرية القانون في كل سوق نخدمه، وفي القطاعات المنظمة راجع القواعد القطاعية أيضًا وأشرك فريق الشؤون القانونية أو الامتثال.
03
سياسة استخدام للذكاء الاصطناعي في صفحة واحدة
- 1
الأدوات المعتمدة
سمِّ الأدوات المسموح استخدامها في العمل وطريقة الحصول عليها، وما عداها لا يُستخدم مع بيانات الشركة.
- 2
قواعد البيانات
المعلومات العامة والداخلية العامة: مسموحة. بيانات الأعمال السرية: فقط في أدوات معتمدة ومهيأة لذلك. البيانات الشخصية وبيانات العملاء: فقط في عمليات معتمدة تحديدًا.
- 3
المراجعة
يتحقق شخص من الحقائق والأرقام والنبرة قبل إرسال المخرجات خارجيًا أو استخدامها في قرار.
- 4
الإفصاح
وضّح متى يتعامل العملاء مع الذكاء الاصطناعي، وأين يجب وسم المحتوى المولّد.
- 5
الإبلاغ
أخبر الموظفين بمن يتواصلون عند خطأ أو تسرب محتمل أو مخرج غير آمن.
04
تهيئة الأدوات المعتمدة
- فضّل خطط الأعمال أو المؤسسات ذات الحسابات التي تديرها الشركة والدخول الموحد.
- تحقق في الشروط الحالية للمزود هل تُستخدم المدخلات في تدريب النماذج، وما مدة الاحتفاظ بالبيانات.
- تأكد من موقع المعالجة وأساس نقل البيانات الشخصية.
- فعّل خصائص الإدارة: إدارة المستخدمين والسجلات وإعدادات الاحتفاظ بالبيانات.
- للعمليات الحساسة، استخدم مساعدًا داخليًا متصلًا بمعرفة الشركة المعتمدة فقط.
أخطاء شائعة
الحظر الكامل
الحظر يدفع الاستخدام إلى الخفاء، والخيار المعتمد المضبوط أكثر أمانًا.
سياسة دون تدريب
يحتاج الموظفون إلى أمثلة على المسموح، لا إلى وثيقة للتوقيع فقط.
الوثوق بمراجع الذكاء الاصطناعي
يجب التحقق من المراجع والأرقام المولّدة من مصدرها الأصلي.
نسيان العملاء
إذا تحدث الذكاء الاصطناعي إلى العملاء فيجب أن يعلموا ويستطيعوا الوصول إلى موظف.
كيف تساعدك جذور
تبدأ هذه الخدمات والأدوات المجانية من حيث ينتهي هذا الدليل.
أسئلة شائعة
هل استخدام ChatGPT في الشركات قانوني في السعودية أو الإمارات؟
استخدام الذكاء الاصطناعي التوليدي ليس محظورًا بحد ذاته، لكن معالجة البيانات الشخصية من خلاله يجب أن تتوافق مع قانون حماية البيانات، ومنه قواعد النقل إلى الخارج. وتقصر شركات كثيرة الاستخدام على أدوات معتمدة وتبقي البيانات الشخصية خارجها ما لم تُعتمد عملية بعينها. هذه ليست استشارة قانونية.
هل يدرّب مزودو الذكاء الاصطناعي نماذجهم على ما يكتبه الموظفون؟
يعتمد ذلك على المزود والخطة والإعدادات. راجع الشروط الحالية للمزود وخيارات الإدارة قبل اعتماد أي أداة.
هل نبني ChatGPT داخليًا خاصًا بنا؟
يفيد المساعد الداخلي المتصل بمعرفة الشركة المعتمدة عندما يحتاج الموظفون إلى إجابات من مستندات داخلية أو يتعاملون مع بيانات حساسة. أما للصياغة العامة فقد تكفي خطة أعمال معتمدة.
هل تساعدنا جذور في إعداد سياسة للذكاء الاصطناعي؟
نعم. نساعد في تحديد الأدوات المعتمدة وقواعد البيانات وخطوات المراجعة والتدريب، وربطها بالعمليات التي يُستخدم فيها الذكاء الاصطناعي. ابدأ باستشارة مجانية.
المصادر
المعلومات الواردة في هذا الدليل مرتبطة بالمصادر أدناه. والعبارات الموسومة بأنها توصيات تعبّر عن الرأي المهني لجذور.
- [1]Personal Data Protection Law — Saudi Arabia (transfer summary)DLA Piper, Data Protection Laws of the World
- [2]Federal Decree-Law No. 45 of 2021 Concerning the Protection of Personal DataUAE Legislation (official portal)
- [3]OWASP Top 10 for Large Language Model ApplicationsOWASP Foundation
- [4]Generative Artificial Intelligence Guidelines for PublicSaudi Data & AI Authority (SDAIA)
أسئلة ذات صلة
هل تريد تطبيق هذا على أعمالك؟
أخبرنا عن العملية التي تريد تغييرها، وسنساعدك على معرفة موضع الذكاء الاصطناعي فيها، وما يتطلبه، وكيف تقيسه.