GenAI سيف ذو حدين: الذكاء الاصطناعي يعزز الأعمال ويعرضها للخطر
ويهدف هذا النهج إلى السماح للشركات بتحقيق التوازن الصحيح بين الابتكار والأمن.
منذ ظهوره، أحدث الذكاء الاصطناعي التوليدي ثورة في إنتاجية المؤسسة.
تعمل أدوات GenAI على تمكين تطوير البرامج والتحليل المالي وتخطيط الأعمال وإشراك العملاء بشكل أسرع وأكثر فعالية.
ومع ذلك، فإن مرونة الأعمال هذه تأتي مصحوبة بمخاطر كبيرة، لا سيما احتمال تسرب البيانات الحساسة.
بينما تحاول المؤسسات تحقيق التوازن بين مكاسب الإنتاجية والمخاوف الأمنية، اضطر الكثيرون للاختيار بين الاستخدام غير المقيد لـ GenAI أو حظره تمامًا.
دليل إلكتروني جديد من LayerX بعنوان 5 تدابير قابلة للتنفيذ لمنع تسرب البيانات من خلال أدوات الذكاء الاصطناعي التوليدية تم تصميمه لمساعدة المؤسسات على التغلب على تحديات استخدام GenAI في مكان العمل. يقدم الدليل خطوات عملية لمديري الأمن لحماية بيانات الشركة الحساسة مع الاستمرار في جني فوائد الإنتاجية لأدوات GenAI مثل ChatGPT.
- ويهدف هذا النهج إلى السماح للشركات بتحقيق التوازن الصحيح بين الابتكار والأمن.
لماذا تقلق بشأن ChatGPT؟
يعالج الدليل الإلكتروني القلق المتزايد من أن الاستخدام غير المقيد لـ GenAI قد يؤدي إلى التعرض غير المقصود للبيانات. على سبيل المثال، كما أبرزته حوادث مثل تسرب بيانات سامسونج. في هذه الحالة، كشف الموظفون عن غير قصد عن تعليمات برمجية خاصة أثناء استخدام ChatGPT، مما أدى إلى فرض حظر كامل على أدوات GenAI داخل الشركة.
تؤكد مثل هذه الحوادث على حاجة المؤسسات إلى تطوير سياسات وضوابط قوية للتخفيف من المخاطر المرتبطة بـ GenAI.
إن فهمنا للمخاطر ليس مجرد قصص. وفقًا لبحث أجراه LayerX Security:
- قام 15% من مستخدمي المؤسسات بلصق البيانات في أدوات GenAI.
- لقد قام 6% من مستخدمي المؤسسات باللصق حساس البيانات، مثل الكود المصدري أو معلومات تحديد الهوية الشخصية (PII) أو المعلومات التنظيمية الحساسة، في أدوات GenAI.
- من بين أفضل 5% من مستخدمي GenAI الذين هم الأكثر استخدامًا، ينتمي 50% منهم إلى البحث والتطوير.
- رمز المصدر هو النوع الأساسي من البيانات الحساسة التي يتم كشفها، وهو ما يمثل 31% من البيانات المكشوفة
الخطوات الأساسية لمديري الأمن
ما الذي يمكن لمديري الأمن فعله للسماح باستخدام GenAI دون تعريض المؤسسة لمخاطر تسرب البيانات؟ تتضمن أبرز النقاط في الدليل الإلكتروني الخطوات التالية:
- رسم خرائط لاستخدام الذكاء الاصطناعي في المنظمة – ابدأ بفهم ما تحتاج إلى حمايته.
- حدد من يستخدم أدوات GenAI، وبأي طرق، ولأي أغراض، وما هي أنواع البيانات التي يتم كشفها.
- سيكون هذا هو الأساس لاستراتيجية فعالة لإدارة المخاطر.
- تقييد الحسابات الشخصية – بعد ذلك، الاستفادة من الحماية التي توفرها أدوات GenAI.
- توفر حسابات GenAI للشركات إجراءات أمنية مدمجة يمكن أن تقلل بشكل كبير من مخاطر تسرب البيانات الحساسة.
- يتضمن ذلك القيود المفروضة على البيانات المستخدمة لأغراض التدريب، والقيود المفروضة على الاحتفاظ بالبيانات، وقيود مشاركة الحساب، وإخفاء الهوية، والمزيد.
- لاحظ أن هذا يتطلب فرض استخدام الحسابات غير الشخصية عند استخدام GenAI (وهو ما يتطلب أداة خاصة للقيام بذلك).
- مطالبة المستخدمين – كخطوة ثالثة، استخدم قوة موظفيك. ستساعد رسائل التذكير البسيطة التي تظهر عند استخدام أدوات GenAI في خلق الوعي بين الموظفين بالعواقب المحتملة لأفعالهم
والسياساتالتنظيمية. - وهذا يمكن أن يقلل بشكل فعال من السلوكيات المحفوفة بالمخاطر.
- منع إدخال المعلومات الحساسة – الآن حان الوقت لتقديم التكنولوجيا المتقدمة. قم بتنفيذ عناصر تحكم تلقائية تقيد إدخال كميات كبيرة من البيانات الحساسة في أدوات GenAI.
- يعد هذا فعالًا بشكل خاص لمنع الموظفين من مشاركة التعليمات البرمجية المصدر ومعلومات العملاء ومعلومات تحديد الهوية الشخصية والبيانات المالية والمزيد.
- تقييد ملحقات متصفح GenAI – وأخيرًا، منع مخاطر ملحقات المتصفح. إدارة ملحقات متصفح الذكاء الاصطناعي وتصنيفها تلقائيًا بناءً على المخاطر لمنع وصولها غير المصرح به إلى البيانات التنظيمية الحساسة.
من أجل التمتع بفوائد الإنتاجية الكاملة للذكاء الاصطناعي التوليدي، تحتاج المؤسسات إلى إيجاد التوازن بين الإنتاجية والأمان.
ونتيجة لذلك، يجب ألا يكون أمان GenAI خيارًا ثنائيًا بين السماح بجميع أنشطة الذكاء الاصطناعي أو حظرها كلها.
وبدلاً من ذلك، فإن اتباع نهج أكثر دقة وضبطًا سيمكن المؤسسات من جني فوائد الأعمال، دون ترك المنظمة مكشوفة.
بالنسبة لمديري الأمن، هذا هو الطريق ليصبحوا شريكًا تجاريًا رئيسيًا وعامل تمكين.
قم بتنزيل الدليل لمعرفة كيف يمكنك أيضًا تنفيذ هذه الخطوات بسهولة على الفور.
