راهنمایی برای مدیریت ریسک‌ها

نوشته بوریس بابیک و همکاران

ترجمه سعیده رجائی‌هرندی

محصولات و خدماتی که به یادگیری ماشین متکی هستند و برنامه‌های رایانه‌ای که دائم داده‌های جدید را جذب ‏می‏‌کنند و بر اساس آن‌ها تصمیم‌گیری می‌کنند، همیشه انتخاب‌های اخلاقی یا دقیقی نمی‌کنند. گاهی آن‏ها باعث زیان سرمايه‌گذاري یا استخدام مغرضانه يا تصادفات رانندگي مي‌شوند و به‌‏دلیل افزایش چنین محصولاتی در بازارها، شرکت‌های ارائه‌دهنده با ریسک‌های مهم جدیدی روبه‌رو می‌شوند. مدیران باید ضعف‌های بالقوه فناوری را درک کنند و کاهش دهند. ‏یادگیری ماشین‏ می‌تواند به چندین روش اشتباه انجام شود. از ‏آن‌جا‏ که سیستم‎ ها براساس احتمالات تصمیم‌گیری می‌کنند، برخی خطاها همواره امکان‎پذیر هستند. محیط آن‌ها ممکن است به‌صورت پیش‎بینی‌نشده تکامل یابد و ارتباط میان داده‌هایی که با آن‌ها آموزش دیده‎اند و داده‌هایی که در حال حاضر با آن‌ها تغذیه می‎‌شوند، قطع شود و پیچیدگی آن‌ها می‌تواند تعیین اشتباه یا عدم اشتباه را دشوار کند. سوال اصلی که مدیران باید پاسخ دهند این است که آیا بهتر است به ‏محصولات‏ هوشمند امکان تکامل مستمر داده شود یا الگوریتم‌های آن‌ها را «قفل» کرده و به‌صورت دوره‎ای به‌روز کنند. علاوه بر این، هر پیشنهادی باید قبل و بعد از عرضه ‏به‌طور‏ مناسب آزمایش و ‏به‌طور‏ منظم کنترل شود تا اطمینان حاصل شود مطابق انتظار عمل می‌کند.