هوش مصنوعی در خیریه؛ فرصت یا تهدید؟
به گزارش پایگاه خبری تحلیلی خیر ایران، وبینار «حکمرانی هوش مصنوعی با نیت آگاهانه در بخش تأثیر اجتماعی» در تاریخ ۱۷ اوت ۲۰۲۶ در وبسایت مؤسسهی مشاورهای مککینزی منتشر شده است. این وبینار حاصل گفتوگویی با سسیل پرینسن و دانیل والانس، دو تن از کارشناسان ارشد مککینزی، بوده و به میزبانی شرکت نرمافزاری بلکباود (متخصص در مدیریت امور خیریه) برگزار شده است. این گفتوگو در چارچوب «ائتلاف هوش مصنوعی برای تأثیر اجتماعی» انجام شده و گروهی از رهبران بخشهای خیریه، فناوری، آموزش و مسئولیت اجتماعی شرکتی را گرد هم آورده است تا برای استفادهی مسئولانه از هوش مصنوعی، راهنما و استانداردهای مشترکی تدوین کنند.
حکمرانی هوش مصنوعی با نیتی آگاهانه در بخش تأثیر اجتماعی
(برگرفته از وبینار «AI for Philanthropy: A Leadership Conversation with Blackbaud and McKinsey»)
بخش تأثیر اجتماعی (شامل سازمانهای غیرانتفاعی، خیریهها، بنیادها و مؤسسات مردمی) بر پایهی اعتماد بنا شده است. اعتماد، سرمایهی اصلی هر رابطهی اهداکننده، هر تعامل با مددجویان، و هر گامی است که در راستای رسالت سازمان برداشته میشود. امروز، هوش مصنوعی در حال تغییر شکل دادن به نحوهی ایجاد و حفظ این اعتماد است. این فناوری فرصتهای بیسابقهای برای افزایش مقیاس تأثیرگذاری، بهبود بهرهوری و ارائهی خدمات شخصیتر فراهم میکند؛ اما در عین حال، ریسکهای قابلتوجهی را نیز به همراه دارد. برای بهرهمندی از این پتانسیل بدون تخریب سرمایهی اعتماد، سازمانها باید فراتر از پذیرش صرفِ فناوری حرکت کنند و به سمت حکمرانیِ آگاهانه و مسئولانه گام بردارند. این یادداشت، برگرفته از گفتوگویی با کارشناسان ارشد مککینزی، چارچوبی عملی برای پذیرش مسئولانه، مقیاسپذیری حکمرانی و تبدیل هوش مصنوعی به عاملی چندبرابرکنندهی تأثیر اجتماعی ارائه میدهد.
نقطهی عطف هوش مصنوعی؛ سرعت، گستردگی و دسترسی
دوران کنونی هوش مصنوعی با هر تحول فناورانهی پیشین تفاوت بنیادین دارد. سه عامل کلیدی این تفاوت را رقم زدهاند:
۱. سرعت بیسابقهی نوآوری: کارهایی که پیشتر ساعتها، روزها یا حتی هفتهها زمان میبرد، اکنون در یک چشمبههم زدن انجام میشوند و معادلات بهرهوری را دگرگون میکنند.
۲. گستردگی در بخشهای مختلف: برخلاف روزهای ابتدایی معاملات الگوریتمی که تنها به یک صنعت خاص محدود بود، امروز هوش مصنوعی به طور همزمان در حوزههایی مانند سلامت، آموزش، خدمات مالی و بخش غیرانتفاعی نفوذ کرده است.
۳. دسترسی آسان: هوش مصنوعی دیگر در انحصار متخصصان با سختافزارهای خاص نیست؛ هر فردی با یک اتصال اینترنتی میتواند از پلتفرمهای پیشرفته استفاده کند. این دموکراتیزه شدن، قدرت را در اختیار تکتک افراد قرار میدهد و نوآوری را شتاب میبخشد، اما ریسک را نیز در سراسر سازمان پخش میکند.
چرا هوش مصنوعیِ مسئولانه، ضریبدهندهی تأثیر است؟ و چگونه میشود اعتماد به هوش مصنوعی را ایجاد کرد؟
در بخش تأثیر اجتماعی، هوش مصنوعیِ مسئولانه (یا همان اعتماد به هوش مصنوعی) نه یک محدودیت، که پیشنیاز تحقق تأثیر واقعی است. منطق ساده است: بدون اعتماد، سازمان نمیتواند مددجویان را به درستی خدمت رسانی کند و حمایت اهداکنندگان را جلب نماید. ایجاد سازوکارهای کنترلی، تضمین کیفیت خروجی مدلها، و شفافسازی خطوط پاسخگویی، سازمان را قادر میسازد با اطمینان بیشتری به استقبال فرصتهای هوش مصنوعی برود. در این بخش، یک اشتباه در ارتباط با اهداکننده یا یک تصمیمِ سوگیرانه دربارهی یک مددجو، میتواند پیامدهای جبرانناپذیری داشته باشد؛ از این رو، هوش مصنوعیِ قابلاعتماد، نه یک هزینه، بلکه سرمایهگذاریای برای تضمین آیندهی سازمان است. برای اینکه سازمانها بتوانند با خیال راحت از هوش مصنوعی استفاده کنند، باید پنج مؤلفه را مد نظر قرار دهند:
۱. استراتژی: سازمان باید از ابتدا تصمیم بگیرد که برای چه کاری میخواهد از هوش مصنوعی استفاده کند و خط قرمزهایش کجاست. همچنین باید یک «طبقهبندی خطرات» داشته باشد تا همه در سازمان با یک زبان، خطرات را بشناسند و بدانند چه کسی اجازه دارد سطح خطر را تأیید کند.
۲. مدیریت ریسک: بیشتر سازمانها از نرمافزارها و ابزارهای آمادهای که شرکتهای دیگر ساختهاند، استفاده میکنند. این یعنی سازمان به آن شرکتها وابسته میشود. اگر آن ابزار دچار اختلال یا اشتباه شود، سازمان باید از قبل برنامهی جایگزین داشته باشد و بداند چطور واکنش نشان دهد.
۳. فناوری و داده: قلب هوش مصنوعی، «داده» است. اگر دادههایی که به هوش مصنوعی میدهیم ناقص یا سوگیرانه باشد، پاسخهایی که میگیریم هم اشتباه است. پس سازمان باید کیفیت دادههای خود را تضمین کند، جهتگیریهای ناعادلانه را از دادهها پاک کند و ابزارهای مناسبی برای نظارت بر عملکرد سیستم داشته باشد.
۴. حکمرانی ساختاری: سازمان باید مشخص کند که مسئولیت نهایی هوش مصنوعی بر عهدهی کیست. چه کسی تصمیمگیرنده است؟ چه کسی بر خطرات نظارت دارد؟ و اگر خطایی رخ داد، چه کسی پاسخگو خواهد بود؟
۵. حکمرانیِ عاملهای هوشمند: بعضی از هوشهای مصنوعی فقط پیشنهاد میدهند (مثل تولید متن)، اما بعضی دیگر خودشان دست به عمل میزنند و کار اجرایی انجام میدهند، مثل تماس با اهداکننده یا دریافت کمکمالی. به این نوع «عامل هوشمند» میگویند. چون این عاملها واقعاً کاری میکنند، ریسک بیشتری دارند. سازمان باید فهرست دقیقی از آنها داشته باشد، بداند هرکدام کجا مشغولند و کنترلهای محکمی برای نظارت بر عملکردشان طراحی کند.
سطح هوشمندی ابزارهای مصنوعی متفاوت است
یکی از کلیدهای استفادهی مسئولانه از هوش مصنوعی، این است که بدانیم همهی ابزارهای هوش مصنوعی به یک اندازه مستقل و خطرناک نیستند. برخی از آنها فقط کارهای سادهای مثل تحقیق کردن یا تهیهی گزارش را انجام میدهند و ریسک پایینی دارند. اما برخی دیگر بسیار پیشرفتهترند و میتوانند مانند یک کارمند، خودشان تصمیم بگیرند و کاری را انجام دهند؛ مثلاً بهطور خودکار با اهداکنندگان تماس بگیرند، پیام بفرستند یا حتی کمک مالی دریافت کنند. طبیعی است که این نوع پیشرفته، نیاز به نظارت و کنترل بسیار بیشتری دارد.
برای مدیریت این تنوع، سازمانها به یک منشور رفتار هوش مصنوعی نیاز دارند. این منشور باید مشخص کند هوش مصنوعی در کجا قابل استفاده است، در کجا استفاده نمیشود، و الزامات نظارت انسانی چیست. برای مثال، سازمانی ممکن است استفاده از هوش مصنوعی را برای پیشنویس پیامها مجاز بداند، اما تأیید نهایی را صرفاً در اختیار انسان قرار دهد.
مقیاسپذیری مسئولیت همپای هوش مصنوعی
سازمانها نیازی ندارند پیش از آغاز سفر هوش مصنوعی، یک چارچوب کامل و بینقص حکمرانی طراحی کنند. رویکرد درست این است که حکمرانی را ساده، عملی و مبتنی بر ریسک آغاز کنیم و همپای بلوغ فناوری، آن را توسعه دهیم. سازمانی که تازه آزمایشهای داخلی را شروع کرده، به حاکمیتِ بسیار سبکتری نیاز دارد تا سازمانی که عاملهای خودمختار را در تعامل مستقیم با مددجویان به کار گرفته است. هدف، پیشبرد همزمان حکمرانی و فناوری است. گرفتاری رایج این است که حکمرانی از فناوری عقب میماند و به گلوگاهی برای پیشرفت پروژهها تبدیل میشود. با ایجاد حکمرانی بهصورت پلکانی، سازمان اطمینان مییابد که این سازوکار، تسهیلکنندهی مسیر است، نه مانعی بر سر راه آن.
سنجش موفقیت و چشمانداز آینده
موفقیت در استفاده از هوش مصنوعی را نباید با تعداد ابزارهایی که خریداری کردهاید یا تعداد کاربرانی که ثبتنام کردهاند، سنجید. موفقیت واقعی یعنی اینکه سازمان شما به اهداف ملموستری دست یافته باشد: آیا توانستهاید بودجهی بیشتری برای کمک به مددجویان جذب کنید؟ آیا به تعداد بیشتری از نیازمندان خدمت رسانی کردهاید؟ آیا درخواستهای کمکمالیتان را سریعتر و با شانس قبولی بالاتر ارسال کردهاید؟ آیا هزینههای اداری و عملیاتیتان را کاهش دادهاید؟
در بخش خیریه و غیرانتفاعی، معیار موفقیت، «بزرگنمایی» تأثیر کار انسانی است؛ یعنی هوش مصنوعی باید به ما کمک کند تا کارهای بیشتری برای مردم انجام دهیم، نه اینکه فقط فرایندهای داخلی را پیچیدهتر کند. با نگاه به سه تا پنج سال آینده و آیندهای که در راه است؛ دو تحول و تغییر اساسی در انتظار بخش خیریه است:
۱. هماهنگیِ خودکارِ رویدادها: تصور کنید بهجای اینکه تیمی از کارکنان، ماهها برای برگزاری یک مراسم خیریه بزرگ برنامهریزی کنند، یک سیستم هوشمند بتواند همهی کارها را از رزرو سالن و هماهنگی با پذیراییها گرفته تا مدیریت حراج و ارسال دعوتنامه، هماهنگ کند. این یعنی کارکنان سازمان، وقت خود را صرف کارهای سختافزاری و اداری نمیکنند و فرصت مییابند تا روی ارتباط با اهداکنندگان، شنیدن صدای مددجویان و انجام کارهای انسانیتری که واقعاً به تخصص و همدلی نیاز دارد، تمرکز کنند.
۲. پیشبینی نیازها، پیش از وقوع بحران: با جمعآوری و تحلیل دادههای بیشتر، سازمانهای خیریه میتوانند خطراتی مثل ترکتحصیل دانشآموزان نیازمند، بیخانمان شدن خانوادههای آسیبپذیر یا افت سلامتی سالمندان را زودتر از همیشه پیشبینی کنند. یعنی بهجای اینکه بعد از وقوع بحران دست به کار شوند، میتوانند پیش از آنکه فاجعه رخ دهد، وارد عمل شوند و از بروز مشکل جلوگیری کنند. این یعنی گذار از «واکنش به بحران» به «پیشگیری از بحران»؛ تحولی که میتواند زندگی بسیاری از مردم را نجات دهد.
سخن آخر: تقویت نیروی کار، نه جایگزینی
یکی از نگرانیهای اصلی، جایگزینی انسان با ماشین است. دیدگاه درست این است که هوش مصنوعی ابزاری برای توانمندسازی و نه حذف، است. کارمندانی که از هوش مصنوعی برای نگارش درخواستهای کمکمالیِ بهتر یا اجرای کمپینهای موفقتر استفاده میکنند، ارزشمندتر میشوند. با این حال، سازمانها باید برای این گذار برنامهریزی کنند؛ همکاری با واحد منابع انسانی برای طراحی مسیرهای ارتقای مهارت، تعریف نقشهای جدید «انسان در چرخه» که نیازمند قضاوت و همدلی است، و اطمینان از اینکه فناوری در خدمت انگیزهی اصلی کارکنان (یعنی رسالت سازمان) قرار میگیرد، ضروری است.
بخش تأثیر اجتماعی در آستانهی تحولی عظیم قرار دارد. هوش مصنوعی نیرویی قدرتمند است، اما این قدرت باید با نیتی آگاهانه، مسئولیتپذیری و رویکردی انسانمحور هدایت شود. سازمانهایی که موفق خواهند بود، آنهایی نیستند که سریعترین فناوری را پیاده میکنند، بلکه آنهایی هستند که «اعتماد به هوش مصنوعی» را نه یک الزام تشریفاتی، بلکه یک ضرورت راهبردی برای گشودن قفل ظرفیتهای نهفتهی خود میدانند. با تزریق حکمرانیِ درست در تکتک مراحل این سفر، هوش مصنوعی به شریکی قابلاطمینان برای خلق جهانی بهتر تبدیل خواهد شد.
منبع: