مدیرسبز

اشتراک‌گذاری مقاله

مطالعه
پیشنهاد ویژه
هوش مصنوعی

۷ کاری که نباید به هوش مصنوعی بسپارید

۷ کاری که نباید به هوش مصنوعی بسپارید
از 5
حدود 13 دقیقه

خلاصه مقاله

سپردن کار تکراری به هوش مصنوعی پیش‌نویس را سریع می‌کند، اما هفت تصمیم پر اثر مثل استخدام، تعهد مالی، شکایت حساس، انتشار ادعا، داده محرمانه، آینده کسب‌وکار و تنظیمات سایت باید با تایید انسان بماند.

سپردن کار تکراری به هوش مصنوعی می‌تواند پیش‌نویس، خلاصه و فهرست کارها را سریع‌تر آماده کند. مشکل وقتی شروع می‌شود که خروجی ابزار، بدون تایید کسی که مسوول نتیجه است، مستقیم اجرا، امضا یا منتشر شود.

فرق اصلی این نیست که ابزار ضعیف است یا قوی. فرق این است که آماده‌سازی با تصمیم نهایی یکی نیست. هوش مصنوعی می‌تواند متن قرارداد را مرتب کند، اما امضای تعهد، پرداخت بزرگ یا رد کردن یک متقاضی هنوز باید با انسان بماند.

این مطلب برای صاحبان کسب‌وکار کوچک و مدیرانی است که می‌خواهند از هوش مصنوعی کمک بگیرند، اما تصمیم‌های پر اثر را بی‌بررسی واگذار نکنند. همه تصمیم‌ها در یک سطح نیستند. کارهای تکراری و کم‌ریسک را می‌توان با قانون تاییدشده خودکار کرد.

در ادامه هفت کار با اثر زیاد می‌آید که تایید نهایی‌شان باید با انسان بماند. در هر مورد نقش ابزار، کار بررسی انسان و یک نمونه فرضی آمده است.

آماده‌سازی، تصمیم و اجرا را جدا کنید

هر کار معمولا سه لایه دارد. آماده‌سازی یعنی جمع کردن اطلاعات، نوشتن پیش‌نویس و مرتب کردن گزینه‌ها. تصمیم یعنی انتخاب نهایی و قبول پیامد آن. اجرا یعنی همان تصمیم به قرارداد، پرداخت، پیام یا تغییر در سایت و نرم‌افزار تبدیل شود.

هوش مصنوعی در لایه اول معمولا خیلی مفید است. در لایه دوم، اگر تصمیم اثر زیاد دارد، باید یک انسان مسوول باشد. تصمیم تکراری و کم‌ریسک، اگر قانون و سقفش از قبل نوشته و تایید شده باشد، می‌تواند طبق همان قانون جلو برود. کار برگشت‌ناپذیر یا پرهزینه هم بعد از تایید انسان اجرا می‌شود؛ کار کم‌ریسک می‌تواند خودکار بماند.

برای نمونه، فرستادن پیام وضعیت ارسال با یک متن از قبل تاییدشده، معمولا کار کم‌ریسکی است. اما دادن تخفیف تازه به مشتری کلیدی، یا تغییر شماره حساب تسویه، دیگر اجرای ساده نیست. این‌ها تصمیم پر اثرند، حتی اگر ظاهرشان یک دکمه یا یک پیام باشد.

در پیوست چارچوب مدیریت ریسک هوش مصنوعی NIST آمده است که نقش انسان‌ها باید روشن تعریف شود. شکل همکاری انسان و ابزار، از حالت کاملا خودکار تا کاملا دستی فرق می‌کند. بعضی کاربردها ممکن است به بررسی پیوسته انسان نیاز نداشته باشند. بعضی کارها اما مشخصا به بررسی انسان نیاز دارند.

پس سوال درست این نیست که ابزار را کنار بگذاریم یا همه کار را به آن بسپاریم. سوال این است: این خروجی آماده‌سازی است یا تصمیم نهایی؟ اگر تصمیم پر اثر است و از جنس همین هفت کار، چه کسی حق تایید، رد یا اصلاح آن را دارد؟

۱. تصمیم نهایی استخدام و قطع همکاری

غربال اولیه رزومه‌ها، نوشتن شرح شغل و آماده کردن سوال‌های مصاحبه را می‌توان به هوش مصنوعی سپرد. این کار زمان مدیر را برای گفتگوی بهتر با افراد مناسب آزاد می‌کند. چیزی که نباید بدون بررسی انسان تمام شود، تصمیم نهایی درباره استخدام، رد کردن بعد از مصاحبه، تغییر نقش با اثر روی حقوق، یا قطع همکاری است.

دعوت به مصاحبه، اگر قانون و معیارش از قبل تایید شده باشد، می‌تواند خودکار بماند. استخدام کردن یا تمام کردن همکاری این‌طور نیست؛ باید یک انسان پرونده و خود کار را بسنجد.

کار انسان این است که رزومه اصلی را ببیند، نه فقط خلاصه ابزار را. در مصاحبه، رفتار، دقت و تناسب با کار واقعی را بسنجد. اگر قرار است همکاری تمام شود، دلیل، زمان اعلام و اثر روی تیم را خودش بررسی کند. هوش مصنوعی می‌تواند چک‌لیست خروج یا پیش‌نویس پیام را آماده کند، اما گفتن خبر و تصمیم نهایی با مدیر مسوول است.

برای نمونه فرضی، مدیر یک فروشگاه زنجیره‌ای کوچک از ابزار می‌خواهد چهل رزومه مسوول فروش را رتبه‌بندی کند. خروجی سه نفر اول را مناسب نشان می‌دهد و یک متقاضی باتجربه را پایین می‌گذارد، چون در پرونده‌اش یک وقفه کاری دیده است. اگر مدیر همان فهرست را بدون دیدن رزومه اصلی ملاک رد کردن کند، ممکن است فرد مناسب را به‌خاطر یک وقفه قابل توضیح کنار بگذارد.

معیار تایید را از قبل بنویسید. هر تصمیمی که وضعیت شغلی یک نفر را عوض می‌کند، باید با ارزیابی یک انسان مسوول ثبت شود. برای استفاده درست از ابزار در مرحله غربال، مقاله استفاده از هوش مصنوعی در استخدام می‌تواند کمک کند.

۲. تعهد مالی و حقوقی الزام‌آور

نوشتن پیش‌نویس قرارداد از روی قالب شرکت، مقایسه بندها و تهیه فهرست موارد ناقص، کار مناسبی برای ابزار است. همین‌طور می‌تواند چک‌لیست پرداخت را از روی فاکتور آماده کند. چیزی که نباید به هوش مصنوعی سپرده شود، امضا، ارسال پیشنهاد الزام‌آور، تغییر شرایط قرارداد، یا تایید پرداختی است که از سقف تعیین‌شده شرکت بالاتر است.

سقف را خودتان بنویسید. هیچ عدد یکسان و ثابتی برای همه کسب‌وکارها وجود ندارد. ممکن است در یک شرکت، پرداخت جاری تا مبلغ مشخص با قانون از پیش نوشته‌شده جلو برود و بالاتر از آن به تایید مدیر نیاز داشته باشد. ممکن است در شرکت دیگر، هر قرارداد تازه یا هر تغییر در موعد و مبلغ، حتی اگر رقمش کوچک باشد، به تایید انسان نیاز داشته باشد.

کار انسان این است که تاریخ، مبلغ، طرف قرارداد، محدوده کار و شرایط فسخ را با منبع اصلی چک کند. منبع می‌تواند توافق جلسه، پیش‌فاکتور یا قالب مورد تایید شرکت باشد. اگر هوش مصنوعی بندی را از قرارداد قبلی برداشته، باید معلوم شود آن بند هنوز معتبر است یا نه.

برای نمونه فرضی، یک استودیوی تولید محتوا از ابزار می‌خواهد قرارداد خدمات سالانه را آماده کند. ابزار تاریخ تحویل را از یک ایمیل قدیمی پر می‌کند که دیگر معتبر نیست. اگر همان فایل بدون بازبینی برای مشتری فرستاده شود، شرکت ممکن است به زمانی متعهد شود که دیگر نمی‌تواند رعایت کند.

قانون ساده این است: هر متنی که با فرستادنش شرکت متعهد می‌شود، و هر پرداختی بالاتر از سقف داخلی، باید به تایید کسی برسد که حق امضا یا حق پرداخت دارد. هوش مصنوعی می‌تواند پیش‌نویس بنویسد، اما ایجاد تعهد باید با تایید فرد مجاز باشد.

۳. شکایت حساس و رابطه مهم با مشتری

پاسخ به سوال‌های تکراری مثل وضعیت سفارش یا ساعت کاری را می‌توان با متن تاییدشده و قانون مشخص خودکار کرد. شکایت حساس این‌ها نیست. وقتی مشتری کلیدی عصبانی است، وقتی شکایت به فضای عمومی می‌رسد، وقتی درخواست تخفیف یا جبران می‌تواند رویه تازه بسازد، یا وقتی پای اتهام و قرارداد بزرگ در میان است، تصمیم نهایی را نباید به هوش مصنوعی واگذار کرد.

ابزار اینجا خیلی می‌تواند کمک کند. می‌تواند کل گفتگو را خلاصه کند، لحن آرام‌تری برای پیش‌نویس پیشنهاد بدهد، گزینه‌های جبران را فهرست کند و پیامد هر گزینه را مرتب نشان دهد. این‌ها آماده‌سازی است. انتخاب گزینه، مقدار جبران، و این‌که بهتر است زنگ بزنید یا بنویسید، تصمیم انسان است.

کار انسان این است که سابقه همان مشتری، تعهدهای قبلی، حاشیه سود و اثر رویه تازه را ببیند. اگر هوش مصنوعی به‌خاطر شباهت ظاهری پرونده‌ها یک تخفیف ثابت پیشنهاد کرد، باید چک کنید آیا این مشتری شرایط خاص دارد یا نه. قولی که در پیام می‌آید، بعدا مثل تعهد دیده می‌شود.

برای نمونه فرضی، یک خریدار عمده از تاخیر ارسال ناراضی است. هوش مصنوعی با دیدن چند پرونده مشابه، تخفیف بیست درصدی پیشنهاد می‌کند. اما این مشتری از قبل شرایط ویژه دارد و همان تخفیف هم حاشیه را از بین می‌برد و هم برای سفارش‌های بعد الگو می‌شود. مدیر فروش باید خودش تصمیم بگیرد عذرخواهی، ارسال سریع‌تر یا یک جبران محدود کدام‌یک مناسب این رابطه است.

معیار را این‌طور بگذارید: اگر پاسخ، رویه مالی یا اعتبار رابطه با یک مشتری مهم را عوض می‌کند، یک انسان مشخص باید آن را تایید کند. پاسخ‌های تکراری و کم‌ریسک، بعد از تایید قالب، می‌توانند خودکار بمانند.

۴. انتشار ادعا و محتوای برند بدون چک واقعیت

هوش مصنوعی در نوشتن پیش‌نویس مطلب، عنوان، بازنویسی واضح‌تر و رسیدن به ساختار بهتر معمولا سرعت کار را بالا می‌برد. این کمک را نباید با انتشار یکی دانست. هر عدد، ادعا، قیمت، زمان تحویل، نام محصول یا قولی که به نام برند شما منتشر می‌شود، باید قبل از انتشار با منبع داخلی چک شود.

در مطلب رسمی OpenAI درباره خطاهای مدل زبانی آمده است که مدل‌های هوش مصنوعی ممکن است با لحنی محکم جوابی بدهند که درست نیست. حتی سوال‌های به ظاهر ساده هم ممکن است جواب غلط بگیرند. بنابراین روان بودن متن، دلیل کافی برای درست بودن ادعا نیست.

کار انسان این است که عددها را با فهرست قیمت، موجودی، قرارداد یا فایل منبع مقابله کند. اگر هوش مصنوعی گواهی، رتبه یا زمانی را در متن آورده که در پرونده شرکت نیست، آن جمله باید حذف یا اصلاح شود. برای مطلب تحلیلی هم منبع ادعا باید مشخص باشد. اگر منبعی در دست نیست، همان را منتشر نکنید.

برای نمونه فرضی، مسوول محتوای یک فروشگاه لوازم خانگی از ابزار می‌خواهد معرفی یک دستگاه را بنویسد. متن روان است و می‌گوید ارسال در ۲۴ ساعت و همراه با گارانتی تمدیدشده انجام می‌شود. در عمل ارسال دو روز کاری است و گارانتی تمدیدشده فقط روی یک مدل خاص است. اگر همان متن در سایت برود، مشتری حق دارد همان وعده را مطالبه کند.

معیار این است: هر محتوایی که با نام شرکت منتشر می‌شود، و هر ادعایی که مشتری ممکن است به آن تکیه کند، قبل از انتشار به تایید یک انسان می‌رسد. پیش‌نویس می‌تواند از ابزار بیاید؛ انتشار بی‌بازبینی نباید انجام شود. در مقاله اشتباهات پیاده سازی هوش مصنوعی هم ارسال خروجی برای مشتری بدون بازبینی، یکی از خطاهای پرهزینه دانسته شده است.

۵. دسترسی به داده شخصی و اطلاعات محرمانه

این بخش درباره ترس کلی از ابزار نیست. درباره مرز دسترسی است: چه داده‌ای، از چه مسیری و با چه حداقلی وارد ابزار می‌شود، و ابزار نباید راهی شود برای دیدن اطلاعاتی که خود آن فرد اجازه دیدنش را ندارد. خلاصه کردن فایل‌های مجاز، بی‌نام کردن نمونه، و آماده کردن چک‌لیست کم کردن داده حساس، کار مفیدی برای هوش مصنوعی است.

طبق صفحه حریم خصوصی سازمانی OpenAI، در سرویس‌های کسب‌وکار مثل حساب سازمانی و API، به‌صورت پیش‌فرض از داده شما برای آموزش مدل استفاده نمی‌شود، مگر اینکه سازمان صریح موافقت کرده باشد.

در راهنمای حریم خصوصی Gemini برای Google Workspace هم آمده است که محتوا بدون مجوز مشتری، برای آموزش مدل بیرون از سازمان استفاده نمی‌شود. همچنین ابزار فقط به محتوایی دسترسی دارد که خود کاربر اجازه دیدنش را دارد. معنی عملی‌اش این است: اگر پوشه حقوق یا پرونده مشتری برای افراد زیادی باز باشد، هوش مصنوعی هم همان را نشان می‌دهد.

پس کار انسان این است که محدوده تاییدشده شرکت را روشن کند. معلوم باشد چه داده‌ای، در کدام مسیر امن و تاییدشده، و فقط به اندازه‌ای که لازم است وارد ابزار می‌شود. فقط انتخاب حساب سازمانی کافی نیست. باید دسترسی پوشه‌ها درست باشد و داده اضافه مثل شناسه کامل، اگر لازم نیست، کنار گذاشته شود.

برای نمونه فرضی، همکار تازه‌وارد برای نوشتن گزارش، فایل حقوق را در یک حساب شخصی ابزار کپی می‌کند تا نمودار ساخته شود. حتی اگر نیتش فقط سرعت کار باشد، داده حساس از مسیر کنترل‌شده شرکت خارج شده است. راه بهتر این است که اعداد بی‌نام، در مسیر تاییدشده سازمان و با دسترسی محدود، خلاصه شوند.

معیار را روشن بنویسید: داده حساس فقط در مسیر و محدوده تاییدشده شرکت، توسط کسی که همان داده را لازم دارد، و به اندازه مورد نیاز وارد می‌شود. اگر فرد اجازه دیدن یک پرونده را ندارد، نباید از طریق ابزار هم به آن برسد. در مقاله ساخت پایگاه دانش داخلی با هوش مصنوعی هم تاکید شده دسترسی را قبل از باز کردن در به روی همه تعیین کنید.

۶. تصمیم‌های اصلی درباره آینده کسب‌وکار

ابزار می‌تواند گزینه‌ها را مرتب کند، از روی عددهایی که خودتان می‌دهید سناریو بسازد، سوال‌های جامانده را فهرست کند و ریسک‌ها را روی کاغذ بیاورد. این کار برای فکر کردن مفید است. چیزی که نباید به هوش مصنوعی سپرده شود، خود تصمیم اصلی درباره آینده کسب‌وکار است: ورود به بازار تازه، حذف یک خط محصول، عوض کردن منطق قیمت‌گذاری، قرض بزرگ، یا تغییر مسیر اصلی شرکت.

دلیلش ناتوانی کامل ابزار نیست. دلیلش این است که پیامد تصمیم را ابزار تحمل نمی‌کند. خیلی از محدودیت‌های واقعی هم در داده رسمی نیست: رابطه با شریک، زمان ورود پول، اعتبار محلی، ظرفیت تیم، یا وابستگی یک مشتری بزرگ به همان محصول کم‌حاشیه.

در همان چارچوب NIST آمده است که شکل کار انسان و ابزار می‌تواند طور دیگری هم باشد: ابزار تصمیم را به متخصص انسان واگذار کند، یا فقط به‌عنوان یک نظر اضافه کنار تصمیم‌گیرنده باشد. برای این تصمیم‌ها، همین حالت دوم مناسب است. هوش مصنوعی نظر می‌دهد؛ انتخاب با کسی است که نتیجه را گردن می‌گیرد.

برای نمونه فرضی، هوش مصنوعی با دیدن فروش فصل قبل پیشنهاد می‌دهد خط محصول کم‌حاشیه حذف شود. در عمل همان خط، دلیل ماندن یک خرده‌فروش بزرگ کنار بقیه کالاهاست. اگر مدیر فقط به‌خاطر نمودار ابزار حذف را اجرا کند، ممکن است فروش اصلی هم آسیب ببیند. باید با داده ابزار و با شناخت رابطه مشتری، خودش تصمیم بگیرد.

معیار این است: هر تغییری که پیشنهاد اصلی، بازار هدف، منطق قیمت یا تعهد مالی چندماهه را عوض می‌کند، به تایید مدیر مسوول تصمیم می‌رسد. از ابزار بخواهید گزینه‌ها و سوال‌ها را روشن کند، نه اینکه مسیر شرکت را نهایی کند.

۷. تغییر دسترسی‌ها و تنظیمات حیاتی سایت و نرم‌افزارهای در حال استفاده

این بخش با تعهد مالی و با انتخاب داده فرق دارد. پرداخت، امضا یا عوض کردن حساب تسویه در بخش دوم آمد. این‌که چه داده‌ای وارد کدام ابزار شود، در بخش پنجم آمد. اینجا موضوع اعمال تغییر فنی در سایت یا نرم‌افزار در حال استفاده است: دادن مجوز، ساخت کلید دسترسی، نصب افزونه، یا روشن کردن یک تنظیم.

کمک گرفتن از هوش مصنوعی برای فهمیدن یک تنظیم، تهیه چک‌لیست تغییر، یا نوشتن برنامه برگشت، کار معقولی است. اجرای بدون تایید انسان وقتی خطرناک می‌شود که مجوز تازه اعمال شود، برنامه‌ای به سایت یا نرم‌افزار وصل شود، یا تنظیمی در محیط واقعی عوض شود.

نمونه‌های رایج این‌هاست: دادن دسترسی مدیریت به همکار یا افزونه، ساخت کلید دسترسی، نصب افزونه تازه، حذف انبوه اطلاعات ثبت‌شده، یا روشن کردن تنظیمی که به صندوق ورودی یا فروش راه می‌دهد.

کار انسان این است که قبل از اعمال تغییر، صفحه مجوز و سطح دسترسی را بخواند، بداند بعد از تغییر چه کسی چه چیزی را می‌بیند، و راه برگشت داشته باشد. اگر هوش مصنوعی گفت یک کلید دسترسی بسازید، باید معلوم شود آن کلید فقط به کار مشخص محدود است یا به همه داده‌ها راه دارد.

برای نمونه فرضی، مسوول عملیات یک فروشگاه اینترنتی از هوش مصنوعی می‌پرسد چطور افزونه ارسال تازه را وصل کند. راهنما شامل ساخت یک کلید با دسترسی گسترده است. اگر بدون خواندن سطح دسترسی اعمال شود، افزونه ممکن است به همه سفارش‌ها و اطلاعات مشتری برسد. تایید انسان یعنی همان صفحه مجوز را خط‌به‌خط خواندن و فقط حداقل دسترسی لازم را دادن.

معیار را این‌طور بگذارید: هر تغییری که مجوز تازه می‌دهد، برنامه تازه‌ای را به سایت یا نرم‌افزار وصل می‌کند، اطلاعات ثبت‌شده را حذف می‌کند یا پیامی انبوه از خود سایت یا نرم‌افزار می‌فرستد، به تایید یک فرد مشخص نیاز دارد. تا آن تایید نرسیده، اجرا نباید خودکار شود.

چک‌لیست تایید انسان قبل از اجرا

این فهرست را کنار کار روزمره بگذارید. هدف متوقف کردن ابزار نیست؛ هدف این است که تصمیم پر اثر بی‌صاحب نماند.

  • این خروجی آماده‌سازی است، تصمیم است یا اجرا؟
  • اگر تصمیم پر اثر است، آیا وضعیت شغلی فرد، تعهد مالی، ادعای عمومی، رابطه حساس مشتری، داده محرمانه، آینده کسب‌وکار، یا تنظیمات سایت و نرم‌افزار در حال استفاده را عوض می‌کند؟
  • نام کسی که حق تایید، رد یا اصلاح دارد چیست؟
  • آیا همان فرد منبع اصلی را دیده است، یا فقط خلاصه ابزار را؟
  • آیا داده در مسیر و محدوده تاییدشده شرکت، و فقط به اندازه لازم، وارد شده است؟
  • اگر کار تکراری و کم‌ریسک است، آیا قانون و سقفش از قبل نوشته و تایید شده است؟

اگر جواب این سوال‌ها روشن باشد، می‌توانید با مرز روشن از هوش مصنوعی برای پیش‌نویس و جمع‌بندی کار بگیرید. فقط جایی که پیامدش با شماست، تایید نهایی را هم با خودتان نگه دارید.

به این مقاله امتیاز بدهید

5.0 از 5

1
2
3
4
5

دیدگاه‌ها

بدون دیدگاه
برای ثبت دیدگاه لازم است

شما اولین نفری باشید که دیدگاهش را می‌گوید!

ساعت
دقیقه
ثانیه