حکمرانی هوش مصنوعی با نیتی آگاهانه در بخش تأثیر اجتماعی
به گزارش پایگاه خبری تحلیلی خیر ایران، مقاله «حکمرانی هوش مصنوعی با نیت آگاهانه در بخش تأثیر اجتماعی» که در تاریخ ۱۷ اوت ۲۰۲۶ در وبسایت مؤسسهی مشاورهای معروف جهانی، مککینزی، منتشر شده است. اصل این مقاله، حاصل گفتوگویی است با دو تن از کارشناسان ارشد این مؤسسه به نامهای سسیل پرینسن و دانیل والانس که در یک نشست آنلاین (وبینار) به میزبانی شرکت نرمافزاری بلکباود (که در حوزهی مدیریت امور خیریه تخصص دارد) برگزار شده است. این گفتوگو در چارچوب «ائتلاف هوش مصنوعی برای تأثیر اجتماعی» انجام شده که گروهی از رهبران بخشهای خیریه، فناوری، آموزش و مسئولیت اجتماعیِ شرکتی را گرد هم آورده تا برای استفادهی مسئولانه از هوش مصنوعی در این حوزه، راهنما و استانداردهای مشترکی تدوین کنند.
حکمرانی هوش مصنوعی با نیتی آگاهانه در بخش تأثیر اجتماعی
(برگرفته از وبینار «AI for Philanthropy: A Leadership Conversation with Blackbaud and McKinsey»)
بخش تأثیر اجتماعی (شامل سازمانهای غیرانتفاعی، خیریهها، بنیادها و مؤسسات مردمی) بر پایهی اعتماد بنا شده است. اعتماد، سرمایهی اصلی هر رابطهی اهداکننده، هر تعامل با مددجویان، و هر گامی است که در راستای رسالت سازمان برداشته میشود. امروز، هوش مصنوعی در حال تغییر شکل دادن به نحوهی ایجاد و حفظ این اعتماد است. این فناوری فرصتهای بیسابقهای برای افزایش مقیاس تأثیرگذاری، بهبود بهرهوری و ارائهی خدمات شخصیتر فراهم میکند؛ اما در عین حال، ریسکهای قابلتوجهی را نیز به همراه دارد. برای بهرهمندی از این پتانسیل بدون تخریب سرمایهی اعتماد، سازمانها باید فراتر از پذیرش صرفِ فناوری حرکت کنند و به سمت حکمرانیِ آگاهانه و مسئولانه گام بردارند. این یادداشت، برگرفته از گفتوگویی با کارشناسان ارشد مککینزی، چارچوبی عملی برای پذیرش مسئولانه، مقیاسپذیری حکمرانی و تبدیل هوش مصنوعی به عاملی چندبرابرکنندهی تأثیر اجتماعی ارائه میدهد. دوران کنونی هوش مصنوعی با هر تحول فناورانهی پیشین تفاوت بنیادین دارد. سه عامل کلیدی این تفاوت را رقم زدهاند:
۱. سرعت بیسابقهی نوآوری: کارهایی که پیشتر ساعتها، روزها یا حتی هفتهها زمان میبرد، اکنون در یک چشمبههم زدن انجام میشوند و معادلات بهرهوری را دگرگون میکنند.
۲. گستردگی در بخشهای مختلف: برخلاف روزهای ابتدایی معاملات الگوریتمی که تنها به یک صنعت خاص محدود بود، امروز هوش مصنوعی به طور همزمان در حوزههایی مانند سلامت، آموزش، خدمات مالی و بخش غیرانتفاعی نفوذ کرده است.
۳. دسترسی آسان: هوش مصنوعی دیگر در انحصار متخصصان با سختافزارهای خاص نیست؛ هر فردی با یک اتصال اینترنتی میتواند از پلتفرمهای پیشرفته استفاده کند. این دموکراتیزه شدن، قدرت را در اختیار تکتک افراد قرار میدهد و نوآوری را شتاب میبخشد، اما ریسک را نیز در سراسر سازمان پخش میکند.
چرا هوش مصنوعیِ مسئولانه، ضریبدهندهی تأثیر است؟
در بخش تأثیر اجتماعی، هوش مصنوعیِ مسئولانه (یا همان «اعتماد به هوش مصنوعی») نه یک محدودیت، که پیشنیاز تحقق تأثیر واقعی است. منطق ساده است: بدون اعتماد، سازمان نمیتواند مددجویان را به درستی خدمت رسانی کند و حمایت اهداکنندگان را جلب نماید. ایجاد سازوکارهای کنترلی، تضمین کیفیت خروجی مدلها، و شفافسازی خطوط پاسخگویی، سازمان را قادر میسازد با اطمینان بیشتری به استقبال فرصتهای هوش مصنوعی برود. در این بخش، یک اشتباه در ارتباط با اهداکننده یا یک تصمیمِ سوگیرانه دربارهی یک مددجو، میتواند پیامدهای جبرانناپذیری داشته باشد؛ از این رو، هوش مصنوعیِ قابلاعتماد، نه یک هزینه، بلکه سرمایهگذاریای برای تضمین آیندهی سازمان، است.
پنج مؤلفهی کلیدی برای ایجاد اعتماد به هوش مصنوعی
برای پیادهسازی یک چارچوب حکمرانی جامع، سازمانها باید پنج مؤلفه را مد نظر قرار دهند:
۱. استراتژی: پایه و اساس کار، شامل اصول راهنما و یک «طبقهبندی ریسک» مشترک است. سازمان باید زبانِ یکسانی برای شناسایی و بحث دربارهی ریسکها داشته باشد و مشخص کند چه کسی مسئول تأیید سطوح ریسکِ قابلقبول است.
۲. مدیریت ریسک: با توجه به اینکه بسیاری از سازمانها از راهکارهای شخص ثالث (مانند APIها و ابزارهای فروشندگان) استفاده میکنند، مدیریت ریسک این وابستگیها بسیار حیاتی است. باید مشخص باشد که در صورت بروز خطا در این ابزارها، چه واکنشی نشان دهیم.
۳. فناوری و داده: هستهی هر سیستم هوش مصنوعی، داده است. این مؤلفه بر تضمین کیفیت دادهها، شناسایی و کاهش سوگیریها در مجموعههای داده، و بهکارگیری ابزارهای فنی مناسب برای نظارت بر عملکرد مدلها تأکید دارد.
۴. حکمرانی ساختاری: این بخش به ساختار سازمانی برای مدیریت هوش مصنوعی میپردازد؛ اینکه چه کسی تصمیمگیرنده است، چه کسی ریسکها را پایش میکند و چگونه پاسخگویی در سراسر سازمان جریان مییابد.
۵. حکمرانیِ عاملهای هوشمند (Agents): عاملهای هوشمند، سیستمهایی هستند که صرفاً خروجی تولید نمیکنند، بلکه تصمیم گرفته و اقدام میکنند. این سطح جدیدی از ریسک را ایجاد میکند. سازمانها باید فهرستی از این عاملها داشته باشند، از محل استقرارشان مطلع باشند و کنترلهای لازم برای نظارت بر عملکردشان را فراهم کنند.
همهی عاملهای هوشمند یکسان نیستند
یکی از کلیدهای مقیاسپذیری مسئولانه، درک طیف استقلال عمل و ریسکِ انواع مختلف هوش مصنوعی است. در یک انتهای طیف، عاملهای پژوهشی و دانشی قرار دارند که به سازمان در تحلیل روندها یا تهیهی گزارشها کمک میکنند و ریسک پایینی دارند. در انتهای دیگر، عاملهای خودمختار هستند که میتوانند مانند یک کارمند رفتار کنند، تصمیم بگیرند و اقدامات مستقلی انجام دهند. برای نمونه، یک عامل جذب سرمایه میتواند بهطور خودکار با اهداکنندگان سابق ارتباط برقرار کند، پیامهای شخصیسازیشده ارسال کند و حتی کمک مالی دریافت نماید.
برای مدیریت این تنوع، سازمانها به یک منشور رفتار هوش مصنوعی نیاز دارند. این منشور باید مشخص کند هوش مصنوعی در کجا قابل استفاده است، در کجا استفاده نمیشود، و الزامات نظارت انسانی چیست. برای مثال، سازمانی ممکن است استفاده از هوش مصنوعی را برای پیشنویس پیامها مجاز بداند، اما تأیید نهایی را صرفاً در اختیار انسان قرار دهد.
مقیاسپذیری مسئولیت همپای هوش مصنوعی
سازمانها نیازی ندارند پیش از آغاز سفر هوش مصنوعی، یک چارچوب کامل و بینقص حکمرانی طراحی کنند. رویکرد درست این است که حکمرانی را ساده، عملی و مبتنی بر ریسک آغاز کنیم و همپای بلوغ فناوری، آن را توسعه دهیم. سازمانی که تازه آزمایشهای داخلی را شروع کرده، به حاکمیتِ بسیار سبکتری نیاز دارد تا سازمانی که عاملهای خودمختار را در تعامل مستقیم با مددجویان به کار گرفته است. هدف، پیشبرد همزمان حکمرانی و فناوری است. گرفتاری رایج این است که حکمرانی از فناوری عقب میماند و به گلوگاهی برای پیشرفت پروژهها تبدیل میشود. با ایجاد حکمرانی بهصورت پلکانی، سازمان اطمینان مییابد که این سازوکار، تسهیلکنندهی مسیر است، نه مانعی بر سر راه آن.
سنجش موفقیت و چشمانداز آینده
موفقیت در هوش مصنوعی را نباید با خودِ فناوری، بلکه با پیامدهای ملموس سنجید: آیا سازمان توانسته بودجهی بیشتری جذب کند، به مددجویان بیشتری دسترسی یابد، درخواستهای کمکمالی را سریعتر و با نرخ پذیرش بالاتر ارسال کند، یا ریسکهای عملیاتی را کاهش دهد؟ در بخش غیرانتفاعی، معیار موفقیت، «بزرگنمایی» تأثیر کار انسانی است. با نگاه به آینده، دو تحول بزرگ در راه است:
۱. دنیای چندعاملی: بهزودی، تیمی از عاملهای هوشمند میتوانند هماهنگی یک رویداد بزرگ خیریه را بر عهده بگیرند؛ از رزرو مکان تا هماهنگی پذیرایی و مدیریت حراج. این امر، نیروی انسانی را برای انجام کارهای رابطـهای و مأموریتمحور آزاد میکند.
۲. پیشکنشی شدن: با تحلیل دادههای غنیتر، سازمانهای اجتماعی میتوانند ریسکهایی مانند ترکتحصیل، بیخانمانی یا افت سلامتی را زودتر پیشبینی کرده و پیش از بحران، مداخله کنند. این یعنی گذار از واکنش به بحران، به پیشگیری از آن.
تقویت نیروی کار، نه جایگزینی
یکی از نگرانیهای اصلی، جایگزینی انسان با ماشین است. دیدگاه درست این است که هوش مصنوعی ابزاری برای توانمندسازی است، نه حذف. کارمندانی که از هوش مصنوعی برای نگارش درخواستهای کمکمالیِ بهتر یا اجرای کمپینهای موفقتر استفاده میکنند، ارزشمندتر میشوند. با این حال، سازمانها باید برای این گذار برنامهریزی کنند؛ همکاری با واحد منابع انسانی برای طراحی مسیرهای ارتقای مهارت، تعریف نقشهای جدید «انسان در چرخه» که نیازمند قضاوت و همدلی است، و اطمینان از اینکه فناوری در خدمت انگیزهی اصلی کارکنان (یعنی رسالت سازمان) قرار میگیرد، ضروری است.
سخن آخر
بخش تأثیر اجتماعی در آستانهی تحولی عظیم قرار دارد. هوش مصنوعی نیرویی قدرتمند است، اما این قدرت باید با نیتی آگاهانه، مسئولیتپذیری و رویکردی انسانمحور هدایت شود. سازمانهایی که موفق خواهند بود، آنهایی نیستند که سریعترین فناوری را پیاده میکنند، بلکه آنهایی هستند که «اعتماد به هوش مصنوعی» را نه یک الزام تشریفاتی، بلکه یک ضرورت راهبردی برای گشودن قفل ظرفیتهای نهفتهی خود میدانند. با تزریق حکمرانیِ درست در تکتک مراحل این سفر، هوش مصنوعی به شریکی قابلاطمینان برای خلق جهانی بهتر تبدیل خواهد شد.
منبع: