مدیرسبز

اشتراک‌گذاری مقاله

مطالعه
پیشنهاد ویژه
هوش مصنوعی

همکار هوش مصنوعی چگونه از تجربه‌های کاری یاد می‌گیرد؟

همکار هوش مصنوعی چگونه از تجربه‌های کاری یاد می‌گیرد؟
امتیاز دهید
حدود 17 دقیقه

خلاصه مقاله

همکار هوش مصنوعی از تجربه‌های کاری یاد می‌گیرد و دانش قابل استفاده مجدد می‌سازد.

همکار هوش مصنوعی برای کار تیمی به حافظه‌ای متفاوت از ابزارهای شخصی نیاز دارد. بیشتر ابزارهای هوش مصنوعی، حافظه را قابلیت شخصی می‌دانند؛ یعنی اطلاعات مربوط به یک کاربر یا یک گفت‌وگوی مشخص را به‌خاطر می‌سپارند تا در ادامه بتوانند از آن استفاده کنند.

جمع‌بندی: همکار هوش مصنوعی وقتی ارزش واقعی می‌سازد که تجربه‌ها را ثبت، بازیابی و کنترل کند. همکار هوش مصنوعی باید بداند چه چیزی را یاد گرفته است. تیم‌ها باید بتوانند رفتار همکار هوش مصنوعی را بررسی کنند. اگر همکار هوش مصنوعی حافظه‌ای قابل مشاهده داشته باشد، اعتماد بیشتر می‌شود.

در سازمان‌ها، همکار هوش مصنوعی باید از بازخورد اعضا بیاموزد. هر همکار هوش مصنوعی باید دانش قابل استفاده مجدد بسازد. مدیریت همکار هوش مصنوعی یعنی مدیریت حافظه و دسترسی. بنابراین همکار هوش مصنوعی بدون کنترل، ابزار مطمئنی نیست. آینده همکار هوش مصنوعی در گرو حافظه شفاف است. انتخاب درست همکار هوش مصنوعی به نیاز تیم بستگی دارد. در نهایت همکار هوش مصنوعی باید همراه تیم رشد کند.

اما وقتی قرار است همکاران هوش مصنوعی در کنار اعضای یک تیم کار کنند، به نوع متفاوتی از حافظه نیاز داریم. چنین سیستم‌هایی زمانی ارزش بیشتری ایجاد می‌کنند که بتوانند از تجربه‌های قبلی یاد بگیرند و آموخته‌های خود را در کارهای بعدی به کار بگیرند.

بااین‌حال، در نرم‌افزارهای سازمانی، مسئله فقط این نیست که هوش مصنوعی اطلاعات بیشتری را ذخیره کند. چالش اصلی این است که بتواند از تجربه‌های گذشته، دانشی کاربردی برای کارهای آینده بسازد و آن را در کارهای مشترک به‌درستی به کار ببرد.

درحالی‌که همچنان مشخص باشد چه اطلاعاتی در اختیار دارد، چگونه از آن‌ها استفاده کرده و چه کسانی اجازه دسترسی به این اطلاعات را دارند. به بیان ساده، حافظه در یک محیط سازمانی باید هم قابل استفاده باشد و هم قابل بررسی و کنترل.

افراد باید بتوانند بدانند هوش مصنوعی چه چیزی را به خاطر سپرده، چرا از آن استفاده کرده و آیا اصلا اجازه استفاده از آن اطلاعات را داشته است یا نه.

این مطلب برای چه کسانی مفید است؟

این مطلب برای مدیران، تیم‌های فناوری و افرادی مفید است که با ایجنت‌های هوش مصنوعی، اتوماسیون سازمانی، مدیریت دانش و همکاری تیمی سروکار دارند و می‌خواهند بدانند یک همکار هوش مصنوعی چگونه می‌تواند از تجربه‌های کاری یاد بگیرد و این دانش را در کارهای بعدی به کار بگیرد.

در چه محیطی می‌توان از آن استفاده کرد؟

مفاهیم این مقاله بیشتر در محیط‌های سازمانی و تیمی کاربرد دارند؛ جایی که چندین نفر با پروژه‌ها، وظایف، اسناد و ابزارهای مختلف کار می‌کنند و هوش مصنوعی نیز باید در همین محیط فعالیت کند.

نمونه آن، AI Teammates در Asana است که برای همکاری با تیم‌ها و استفاده از دانش حاصل از کارهای قبلی طراحی شده است. نکته مهم این است که مقاله صرفا آموزش کار با Asana نیست؛ بلکه نمونه‌ای از نحوه طراحی حافظه برای همکاران هوش مصنوعی در محیط‌های کاری را نشان می‌دهد.

همکاران هوش مصنوعی چگونه از تجربه‌ها یاد می‌گیرند؟

این همان چالشی است که با همکاران هوش مصنوعی می‌خواهیم حل کنیم. همکاران هوش مصنوعی در محیطی متفاوت از ابزارهای معمول هوش مصنوعی کار می‌کنند.

آن‌ها در انجام وظایف، مدیریت پروژه‌ها و کار با اسناد، در کنار اعضای تیم قرار می‌گیرند؛ از افراد مختلف بازخورد می‌گیرند و ممکن است هم‌زمان با چندین سیستم و ابزار مختلف کار کنند.

بنابراین باید بتوانند به‌مرور از تجربه‌های خود یاد بگیرند و عملکردشان را بهتر کنند؛ بدون‌ اینکه به یک «جعبه سیاه» تبدیل شوند؛ یعنی سیستمی که اطلاعات زیادی در خود دارد اما مشخص نیست چه چیزهایی را می‌داند، چگونه از آن‌ها استفاده می‌کند و چرا به یک نتیجه خاص رسیده است.

مسئله اصلی چیست؟

اینجا با یک مسئله مهم در طراحی مواجه می‌شویم. یک همکار هوش مصنوعی باید بتواند از کارهایی که انجام داده یاد بگیرد، زمانی که دوباره به آن دانش نیاز دارد اطلاعات مرتبط را پیدا کند و توضیح دهد که این اطلاعات چگونه بر تصمیم یا اقدام او تاثیر گذاشته‌اند.

از طرف دیگر، قرار نیست هر چیزی که در گذشته یاد گرفته، برای همه کارها و همه افراد قابل استفاده باشد. اطلاعاتی که به‌خاطر می‌سپارد و نحوه استفاده از آن‌ها باید همان قوانین و محدودیت‌های دسترسی را رعایت کند که بر کار اصلی حاکم است.

حافظه در محیط‌های سازمانی

به‌همین‌دلیل، حافظه در محیط سازمانی فقط یک قابلیت جانبی نیست؛ بلکه به بخشی از ساختار همکاری سازمانی تبدیل می‌شود. این حافظه باید بتواند چهار موضوع را در کنار هم مدیریت کند: ۱. یادگیری از تجربه‌های گذشته ۲. پیدا کردن اطلاعات مرتبط در زمان مناسب ۳. کنترل اینکه چه کسی به چه اطلاعاتی دسترسی دارد ۴. ایجاد شفافیت درباره نحوه استفاده از این اطلاعات.

در چنین ساختاری، این سیستم فقط اطلاعات را به خاطر نمی‌سپارد؛ بلکه از تجربه‌های کاری خود یاد می‌گیرد و می‌تواند این آموخته‌ها را در چارچوب مشخص و قابل‌کنترل، دوباره در کارهای آینده به کار بگیرد.

از اطلاعات موقتی تا دانش قابل استفاده مجدد

ساده‌ترین شکل یک دستیار هوش مصنوعی این است که هر بار کارش را از صفر شروع کند. شما یک پرامپت به آن می‌دهید، شاید چند فایل هم ضمیمه کنید و هوش مصنوعی تلاش می‌کند در همان تعامل به شما کمک کند. این روش برای درخواست‌های کوتاه و مستقل می‌تواند مناسب باشد، اما در فرایندهای کاری طولانی‌مدت و تیمی، خیلی زود محدودیت‌های خود را نشان می‌دهد.

همکار انسانی چه فرایندی را طی می‌کند؟

یک همکار انسانی فقط به پیام فعلی پاسخ نمی‌دهد. او فرایند مورد علاقه تیم برای انجام کارها را به‌خاطر می‌سپارد، نمونه‌هایی را که نشان می‌دهند یک خروجی خوب چه ویژگی‌هایی دارد می‌شناسد، می‌داند کدام اسناد اهمیت بیشتری دارند، بازخوردهایی را که هفته گذشته دریافت کرده در نظر می‌گیرد و از شرایط و سابقه پروژه خبر دارد.

همه این موارد روی نحوه انجام کار تاثیر می‌گذارند. اگر قرار است همکاران هوش مصنوعی هم شبیه همکاران واقعی در کنار تیم کار کنند، باید بتوانند به‌مرور چنین دانشی را از تجربه‌های کاری خود جمع کنند و در کارهای بعدی به کار بگیرند.

حافظه یکپارچه

برای رسیدن به این هدف، ما یک لایه حافظه یکپارچه ایجاد کردیم که کل چرخه عمر دانش را پوشش می‌دهد؛ از لحظه‌ای که یک تجربه به دانش تبدیل می‌شود تا زمانی که دوباره به آن نیاز پیدا می‌کنیم:

  • ایجاد حافظه: چه اطلاعات و تجربه‌هایی باید به‌عنوان دانش قابل استفاده در آینده ثبت شوند؟

  • بازیابی حافظه: وقتی یک کار جدید در حال انجام است، چگونه دانش مرتبط را پیدا و استفاده کنیم؟

  • ارتباط با Work Graph: چگونه این دانش را به Work Graph، یعنی مدل داده ساختاریافته Asana، متصل کنیم؛ مدلی که وظایف، پروژه‌ها، افراد و اهداف را در سراسر سازمان به یکدیگر مرتبط می‌کند؟

  • بررسی و مدیریت حافظه: کاربران چگونه می‌توانند چیزهایی را که همکار هوش مصنوعی یاد گرفته ببینند، بررسی کنند و درباره نحوه استفاده از آن‌ها تصمیم بگیرند؟

باید بتوانید حافظه را ببینید!

مورد آخر شاید در نگاه اول اهمیت کمتری داشته باشد؛ اما اتفاقا نقش مهمی در ایجاد اعتماد دارد. اگر یک سیستم حافظه قدرتمند داشته باشیم که هیچ‌کس نتواند آن را ببیند، بررسی کند یا اطلاعات آن را اصلاح کند، لزوما اعتماد بیشتری ایجاد نمی‌شود.

برعکس، چنین سیستمی می‌تواند یک مشکل جدید ایجاد کند: «هوش مصنوعی بر اساس دانشی تصمیم می‌گیرد که ما نمی‌دانیم چیست، از کجا آمده و چگونه بر تصمیم آن تاثیر گذاشته است!» بنابراین، حافظه مفید فقط به معنای «به خاطر سپردن» نیست؛ باید بتوانیم آن را ببینیم، بررسی کنیم و در صورت نیاز اصلاح یا مدیریت کنیم.

همکاران هوش مصنوعی چگونه حافظه می‌سازند؟

یکی از اولین تصمیم‌هایی که در طراحی این سیستم گرفتیم، این بود که مشخص کنیم همکار هوش مصنوعی چه زمانی باید یک تجربه را به حافظه تبدیل کند. همه اطلاعاتی که در جریان کار با آن‌ها روبه‌رو می‌شود ارزش ماندگار شدن ندارند. بنابراین، باید بتوانیم بین اطلاعات موقت و دانشی که در آینده هم کاربرد دارد، تفاوت بگذاریم.

وقتی هوش مصنوعی از تجربه‌های کاری یاد می‌گیرد

یک نوع حافظه، به‌صورت استنباطی در حین انجام کار یا بعد از آن شکل می‌گیرد. وقتی یک همکار هوش مصنوعی روی یک وظیفه کار می‌کند، دستورالعمل‌ها را می‌خواند، منابع مختلف را بررسی می‌کند، اقداماتی انجام می‌دهد و از اعضای تیم بازخورد می‌گیرد.

بخشی از این اطلاعات فقط برای همان وظیفه لازم است و بعد دیگر کاربردی ندارد؛ اما بعضی تجربه‌ها می‌توانند در کارهای بعدی هم مفید باشند.

نکته: برای مثال، ممکن است یکی از اعضای تیم بازخورد بدهد: «در این نوع وظایف، همیشه کارشناس بررسی مدل داده را هم در جریان قرار بده.» این بازخورد فقط به یک کار خاص مربوط نیست و می‌تواند به یک قاعده برای وظایف مشابه در آینده تبدیل شود.

یا وقتی ایجنت یک پروژه را بررسی می‌کند، ممکن است متوجه شود این پروژه چه هدفی دارد و چه نوع اطلاعاتی در آن قرار گرفته است.

نکته: برای مثال اینکه: «پروژه X شامل منابعی درباره بهترین روش‌های سازمان برای اجرای کمپین‌های بازاریابی است.» چنین اطلاعاتی می‌توانند به دانشی ماندگار تبدیل شوند تا هوش مصنوعی در زمان مناسب دوباره از آن‌ها استفاده کند.

همیشه لازم نیست هوش مصنوعی خودش یاد بگیرد

نوع دوم، حافظه صریح است. در این حالت، کاربر خودش اطلاعات یا دستورالعمل موردنظر را در اختیار همکار هوش مصنوعی قرار می‌دهد و لازم نیست سیستم منتظر بماند تا این اطلاعات را از تجربه‌های قبلی استخراج کند.

این روش زمانی اهمیت بیشتری دارد که بخواهیم چیزی فراتر از یک درس از یک کار مشخص به هوش مصنوعی یاد بدهیم؛ مثلا بخواهیم مشخص کنیم در یک محیط کاری چگونه رفتار کند یا از یک منبع مشخص چگونه استفاده کند.

نکته: این روش زمانی اهمیت بیشتری پیدا می‌کند که حافظه به یک منبع مشخص، مثل یک سند، متصل باشد. فرض کنید یک سند را در اختیار آن قرار می‌دهیم. صرفا دانستن اینکه این سند وجود دارد کافی نیست؛ باید مشخص کنیم قرار است چه نقشی در کارهای آینده داشته باشد.

آیا این سند، دستورالعملی برای نحوه ارتباط و همکاری تیم است؟ آیا یک سند مرجع است که اطلاعات تخصصی موردنیاز تیم را در اختیار هوش مصنوعی قرار می‌دهد؟ یا یک قالب آماده است که باید در کارهای آینده از آن استفاده شود؟

این تفاوت مهم است؛ چون یک منبع یکسان می‌تواند بسته به هدفی که برای آن تعیین کرده‌ایم، کاربرد کاملا متفاوتی داشته باشد. بنابراین، حافظه فقط به نگهداری اطلاعات مربوط نمی‌شود؛ بلکه باید مشخص باشد هر اطلاعاتی برای چه منظوری ثبت شده و قرار است چگونه مورد استفاده قرار گیرد.

حافظه باید به کارهای مرتبط متصل باشد

هر زمان یک حافظه ایجاد می‌شود، ما Memory Associations را نیز ایجاد می‌کنیم. به زبان ساده، این ارتباط‌ها مشخص می‌کنند هر حافظه به کدام بخش‌های Work Graph مربوط است؛ یعنی چه پروژه، وظیفه، فرد یا منبعی با آن ارتباط دارد.

برای مثال، یک حافظه ممکن است درباره یک پروژه خاص باشد یا به یک Google Doc مربوط شود که کاربر در اختیار دستیار قرار داده است. این ارتباط‌ها اهمیت زیادی دارند؛ چون در ادامه به سیستم کمک می‌کنند هنگام انجام یک کار جدید، حافظه‌های مرتبط را پیدا کند.

از طرف دیگر، همین ارتباط‌ها به کنترل دسترسی هم کمک می‌کنند. یعنی سیستم می‌تواند تشخیص دهد چه اطلاعاتی به یک کار یا کاربر مربوط است و چه کسی اجازه استفاده از آن را دارد. در نتیجه، همکار هوش مصنوعی فقط چیزهایی را به یاد نمی‌آورد؛ بلکه یاد می‌گیرد چه چیزی را، در چه زمینه‌ای و برای چه کسی می‌تواند استفاده کند.

همکاران هوش مصنوعی چگونه حافظه‌های خود را بازیابی می‌کنند؟

داشتن یک حافظه قوی به‌تنهایی کافی نیست. اگر همکار هوش مصنوعی نتواند دانش درست را در زمان مناسب پیدا کند، اطلاعاتی که در گذشته یاد گرفته عملا کاربرد زیادی نخواهد داشت. به‌همین‌دلیل، شیوه بازیابی اطلاعات به اندازه خودِ ذخیره کردن آن‌ها اهمیت دارد.

حافظه‌ای که قبل از شروع کار فعال می‌شود

بازیابی حافظه برای همکاران هوش مصنوعی در دو مسیر انجام می‌شود.

مسیر اول

مسیر اول، بازیابی در شروع کار است. وقتی یک همکار هوش مصنوعی کار روی یک وظیفه را آغاز می‌کند، پیش از اینکه تصمیم‌گیری یا اقدامی انجام دهد، مجموعه‌ای از حافظه‌های مرتبط در اختیارش قرار می‌گیرد.

این اطلاعات می‌تواند شامل دستورالعمل‌هایی باشد که همیشه باید رعایت شوند، تجربه‌های قبلی مرتبط با وظیفه فعلی یا دانش کلی‌تری باشد که بر اساس جست‌وجو یا شباهت معنایی، به کار فعلی مرتبط تشخیص داده شده است.

به این ترتیب، آن کار را کاملا از صفر شروع نمی‌کند؛ بلکه پیش از اولین تصمیم، به بخشی از دانشی که احتمالا برای انجام آن کار مفید است دسترسی دارد.

مسیر دوم

مسیر دوم، بازیابی اطلاعات حین انجام کار است. وقتی همکار هوش مصنوعی یک وظیفه، پروژه یا بخش دیگری از Work Graph را بررسی می‌کند، حافظه‌هایی که به همان بخش مرتبط هستند نیز در اختیارش قرار می‌گیرند.

این موضوع اهمیت زیادی دارد؛ چون بعضی اطلاعات به‌طور کلی مرتبط به نظر نمی‌رسند و فقط زمانی اهمیت پیدا می‌کنند که هوش مصنوعی وارد یک بخش مشخص از کار شود.

برای مثال، ممکن است یک نکته درباره یک پروژه خاص در حالت عادی چندان کاربردی نباشد؛ اما وقتی ایجنت وارد همان پروژه می‌شود، آن اطلاعات می‌تواند برای تصمیم‌گیری او بسیار مهم باشد.

ترکیب دو نوع بازیابی

ترکیب این دو مسیر باعث می‌شود همکار هوش مصنوعی هم دید کلی داشته باشد و هم بتواند با ورود به جزئیات، اطلاعات دقیق‌تری پیدا کند. ابتدا مجموعه‌ای از دانش‌هایی که احتمالا برای کار مرتبط هستند در اختیارش قرار می‌گیرد.

سپس، هرچه بیشتر در وظیفه، پروژه و سایر بخش‌های مرتبط با کار پیش می‌رود، حافظه‌های دقیق‌تر و مرتبط‌تری را بازیابی می‌کند.

نکته: در نتیجه، این سیستم نه با انبوهی از اطلاعات غیرضروری مواجه می‌شود و نه مجبور است همه چیز را از ابتدا یاد بگیرد؛ بلکه در هر مرحله، اطلاعاتی را دریافت می‌کند که با همان بخش از کار، ارتباط بیشتری دارد.

حافظه هوش مصنوعی باید قابل استفاده و قابل مدیریت باشد

یکی از مهم‌ترین تصمیم‌هایی که در طراحی این سیستم گرفتیم، این بود که حافظه را به‌عنوان چیزی عملی و قابل مدیریت تعریف کنیم، نه یک مفهوم مبهم یا مرموز. در مدل داده ما، هر حافظه یک شیء مشخص است که محتوا، اطلاعات توصیفی و ارتباط‌های مرتبط با خود را دارد.

این یعنی می‌توانیم دقیقا مشخص کنیم یک حافظه چه چیزی را در خود نگه می‌دارد و چه اطلاعاتی به آن مرتبط است. در نتیجه، حافظه فقط چیزی نیست که هوش مصنوعی در پس‌زمینه «به‌خاطر سپرده» باشد؛ بلکه بخشی مشخص از سیستم است که می‌توان آن را مدیریت و بررسی کرد.

هر حافظه باید جایگاه مشخصی داشته باشد

Memory Association مشخص می‌کند یک حافظه درباره کدام شیء در Work Graph است یا با کدام بخش از آن ارتباط دارد. برای مثال، یک حافظه می‌تواند به یک پروژه، یک وظیفه یا یک منبع مشخص مربوط باشد. این ارتباط باعث می‌شود حافظه را در زمینه کاری واقعی آن قرار دهیم.

به جای اینکه اطلاعاتی را جدا از زمینه و بدون ارتباط مشخص ذخیره کنیم، می‌دانیم این حافظه به چه کاری، پروژه‌ای یا منبعی مربوط است. این موضوع در ادامه اهمیت زیادی پیدا می‌کند؛ چون همین ارتباط‌ها کمک می‌کنند همکار هوش مصنوعی هنگام نیاز، حافظه درست را از میان اطلاعات موجود پیدا کند و درعین‌‌حال، دسترسی به آن را بر اساس همان زمینه کاری و مجوزهای مربوط کنترل کند.

کنترل دسترسی، پایه طراحی حافظه است

هرچه تعداد افراد، پروژه‌ها و سطح دسترسی‌ها بیشتر شود، طراحی حافظه برای یک سیستم هوش مصنوعی سازمانی پیچیده‌تر می‌شود. یک دستیار هوش مصنوعی شخصی معمولا می‌تواند حافظه را ادامه‌ای از سابقه همان کاربر در نظر بگیرد.

اما یک همکار هوش مصنوعی که در محیط‌های کاری مشترک فعالیت می‌کند و ممکن است توسط افراد مختلف فعال شود، نمی‌تواند چنین رویکرد ساده‌ای داشته باشد.

هر حافظه‌ای که آن ایجاد می‌کند، از اطلاعات واقعی موجود در محیط کار به‌دست‌آمده است؛ اطلاعاتی مثل وظایف، نظرات، اسناد، پروژه‌ها و فعالیت‌های قبلی. اگر این حافظه‌ها بدون ارتباط با منبع اصلی خود نگهداری شوند، ممکن است به مسیری برای انتقال اطلاعات بین افرادی تبدیل شوند که نباید به یکدیگر دسترسی داشته باشند.

به‌همین‌دلیل، حافظه همکاران هوش مصنوعی باید همان قوانین دسترسی اطلاعاتی را رعایت کند که بر داده‌های اصلی حاکم است.

هر کاربر فقط حافظه‌های مجاز خودش را می‌بیند

هر بار که حافظه‌ای برای انجام یک کار بازیابی می‌شود، دسترسی آن بر اساس فردی که اجرای کار را آغاز کرده، تعیین می‌شود. همکار هوش مصنوعی فقط زمانی می‌تواند از یک حافظه استفاده کند که آن فرد به اطلاعاتی که آن حافظه از آن‌ها ساخته شده است، دسترسی داشته باشد.

برای مثال، اگر یک حافظه از یک وظیفه، نظر، سند یا پروژه خاص ایجاد شده باشد، کاربر باید بتواند همان اطلاعات را ببیند تا دستیار نیز بتواند آن حافظه را در اختیار داشته باشد.

Memory Associations

همین قانون درباره Memory Associations نیز برقرار است. اگر یک حافظه به یک شیء در Asana، مانند یک وظیفه یا پروژه، مرتبط باشد، فقط زمانی در اختیار این سیستم قرار می‌گیرد که کاربر اجراکننده نیز به همان وظیفه یا پروژه دسترسی داشته باشد.

به بیان ساده، همکار هوش مصنوعی هیچ اطلاعاتی را نمی‌بیند که فردی که آن را فعال کرده، خودش امکان دیدن آن را نداشته باشد. این موضوع باعث می‌شود حافظه هوش مصنوعی به یک مسیر جداگانه برای دور زدن مجوزهای دسترسی تبدیل نشود.

شفافیت، حلقه حافظه را کامل می‌کند

کنترل دسترسی به‌تنهایی کافی نیست. اگر همکار هوش مصنوعی از حافظه‌های قبلی برای تصمیم‌گیری و انجام کار استفاده می‌کند، کاربران باید بتوانند بفهمند این حافظه‌ها چه تاثیری بر عملکرد آن داشته‌اند.

اولین قدم، قابل مشاهده بودن خود حافظه است. کاربران باید بتوانند ببینند همکار هوش مصنوعی چه چیزهایی را به‌خاطر سپرده و در صورت مشاهده اطلاعات اشتباه یا قدیمی، آن‌ها را حذف کنند.

علاوه‌براین، هنگام اجرای یک کار نیز می‌توان مشخص کرد چه حافظه‌هایی در اختیار آن قرار گرفته‌اند و در جریان همان اجرا چه حافظه‌های جدیدی ایجاد شده‌اند.

نکته: هنگام مواجه شدن با یک رفتار غیرمنتظره از سمت هوش مصنوعی، باید چه‌کار کنیم؟ در نتیجه، اگر کاربر با یک رفتار غیرمنتظره مواجه شود، لازم نیست فقط به‌صورت کلی بپرسد: «چرا هوش مصنوعی این کار را انجام داد؟»؛ بلکه می‌تواند مسیر تصمیم‌گیری را دنبال کند و ببیند:

  • آیا این رفتار تحت‌تاثیر دستورالعملی بوده که قبلا یاد گرفته؟

  • یک منبع مشخص بوده؟

  • یا اطلاعات مرتبط با یک پروژه یا وظیفه خاص؟

اصلاح رفتار هوش مصنوعی باید عملی باشد

این شفافیت باعث می‌شود اصلاح رفتار همکار هوش مصنوعی از یک مسئله مبهم به یک اقدام مشخص تبدیل شود. اگر متوجه شویم یک حافظه باعث رفتار نامناسب شده است، می‌توانیم همان حافظه را ویرایش کنیم، حذفش کنیم، منبع آن را به‌روزرسانی کنیم یا دستورالعمل بهتری در اختیار سیستم قرار دهیم.

مثال عملی

برای مثال، فرض کنید همکار هوش مصنوعی یک گزارش را با قالبی متفاوت از انتظار ما آماده می‌کند. با بررسی حافظه‌های آن متوجه می‌شویم که هفته گذشته، یکی از اعضای تیم درباره قالب‌بندی گزارش‌ها بازخوردی داده و سیستم آن را به‌عنوان یک ترجیح کاری به‌خاطر سپرده است.

در این شرایط، دیگر با یک رفتار ناشناخته روبه‌رو نیستیم. می‌توانیم همان حافظه را بررسی کنیم و در صورت نیاز آن را اصلاح یا حذف کنیم تا رفتار آن نیز تغییر کند.

یادگیری بدون شفافیت، اعتماد را دشوار می‌کند

به‌همین‌دلیل، حافظه و شفافیت باید از ابتدا در کنار یکدیگر طراحی شوند. هرچه یک همکار هوش مصنوعی بتواند از تجربه‌های قبلی بیشتر یاد بگیرد، در کارهای آینده توانمندتر می‌شود؛ اما اگر این یادگیری برای کاربران قابل مشاهده نباشد، درک و اعتماد به رفتار آن دشوارتر خواهد شد.

چرا این موضوع اهمیت دارد؟

پیش‌تر، درباره این موضوع صحبت کردیم که همکاران هوش مصنوعی چگونه می‌توانند در محیط‌های کاری مشترک، شفاف و قابل بررسی فعالیت کنند. حافظه همان لایه‌ای است که باعث می‌شود این همکاری در طول زمان ارزش بیشتری ایجاد کند.

همکار هوش مصنوعی از کارهای مشترک تیم یاد می‌گیرد، زمانی که لازم است این دانش را دوباره بازیابی می‌کند و در تمام این مراحل، همان مرزهای دسترسی و اعتماد را رعایت می‌کند که بر خودِ محیط کاری حاکم هستند.

فراتر از یک پنجره Context بزرگ‌تر

درس مهم‌تر این است برای ساخت هوش مصنوعی مناسب محیط‌های تیمی، فقط به یک Context Window بزرگ‌تر نیاز نداریم. مسئله اصلی این است که بتوانیم تجربه‌های حاصل از همکاری را به دانشی تبدیل کنیم که ماندگار، قابل استفاده مجدد و قابل مدیریت باشد.

این دانش باید در زمان مناسب در اختیار همکار هوش مصنوعی قرار بگیرد، قوانین دسترسی را رعایت کند و کاربران نیز بتوانند آن را ببینند، بررسی کنند و در صورت نیاز تغییر دهند.

به‌این‌ترتیب، هوش مصنوعی فقط اطلاعات بیشتری در اختیار ندارد؛ بلکه می‌تواند از تجربه‌های کاری گذشته یاد بگیرد و این یادگیری را به شکلی کنترل‌شده در کارهای آینده به کار بگیرد.

اگر می‌خواهید با نمونه‌ای از نسل جدید ابزارهای هوش مصنوعی که فراتر از ارائه اطلاعات عمل می‌کنند و می‌توانند بخشی از کارها را به‌جای شما انجام دهند آشنا شوید، پیشنهاد می‌کنیم مقاله «مرورگر Comet؛ کارمند تمام‌وقت شما» را نیز در مدیرسبز بخوانید.

در این مقاله با قابلیت‌های Comet و مفهوم مرورگرهای Agentic آشنا می‌شویم و می‌بینیم هوش مصنوعی چگونه می‌تواند از یک ابزار صرفا اطلاعاتی، به یک دستیار عملیاتی تبدیل شود.

به این مقاله امتیاز بدهید

هنوز امتیازی ثبت نشده است — اولین نفر باشید

1
2
3
4
5

دیدگاه‌ها

بدون دیدگاه
برای ثبت دیدگاه لازم است

شما اولین نفری باشید که دیدگاهش را می‌گوید!

ساعت
دقیقه
ثانیه