به گزارش خبرخوان
اظهار تاریخ نادرست به کاربران توسط کوپایلوت مایکروسافت یا ساخت تصاویر نازی‌ها توسط جمینای گوگل ازجمله خطاهای هوش مصنوعی می باشند که هر چند زمان یک‌بار در سرخط خبرها دیده خواهد شد. بااینحال نمی‌توان با مطمعن او گفت که کدام یک از این موارد به‌علت ابراز باگ و کدام یک به‌علت زیرساخت ضعیف رخ می‌دهد. همین نوشته علتشده است تا OpenAI عمل به تدوین مقرراتی برای گسترش ابزارهای مرتبط با این حوزه کند.
پیش‌نیازهای ابزارهای هوش مصنوعی شامل چه مواردی می‌شود؟
شرکت OpenAI به‌تازگی عمل به انتشار کردن پیش‌نویس چارچوبی تحت‌گفتن Model Spec کرده است که نحوه کارکرد ابزارهای مبتنی بر هوش مصنوعی ازجمله مدل GPT این شرکت را گفتن می‌کند. در این پیش‌نویس ذکر شده است که این چنین ابزارهایی باید در خدمت گسترش‌دهنده و کاربر نهایی باشند و جواب‌هایی پشتیبانی‌کننده با اتکا بر دستورات آن‌ها اراعه دهند. سودمندی برای بشریت با درنظرگرفتن پتانسیل‌ها و صدمه‌های احتمالی در کنار احترام به قوانین و عرف جامعه از دیگر نکات مهم پیش‌نویس مذکور می باشند.
از دیگر مواردی که OpenAI در پیش‌نویس خود به آن‌ها اشاره داشته است می‌توان به‌جستوجو‌کردن زنجیره دستورات اراعه‌شده توسط کاربر از سوی هوش مصنوعی و تطبیق آن‌ها با قوانین و مقررات قانونی اشاره کرد. این چنین ابزارهایی نباید اطلاعات صدمه‌زننده را برای کاربران فراهم سازند و به مؤلفین و حق مالکیت معنوی آن‌ها بر آثار احترام بگذارند. مراعات حریم شخصی افراد و عدم اراعه محتوای نامناسب و مستهجن هم از دیگر موارد ذکرشده می باشند.
«جوان جَنگ»، مدیر محصول OpenAI اشاره دارد که مقصد از تدوین پیش‌نویس حرف های‌شده، اشکار کردن مرزی بین باگ و خطاهای به عمد در زمان ابراز مشکل است. ازجمله پیش‌فکر‌های درنظرگرفته‌شده برای ابزارهای هوش مصنوعی می‌توان به مطمعن به کاربر به‌گفتن فردی نیک، پرسیدن سؤالات شفاف و اراعه جواب‌ها بر مبنای عدم قطعیت آن‌ها اشاره نمود.
شایان ذکر است که چارچوب Model Spec به‌زودی در OpenAI و محصولات آن اجرایی نخواهد شد و ابزارهای جاری این شرکت همانند GPT-4 و Dall-E 3 تا این مدت مطابق قوانین قبلی به فعالیت خود ادامه خواهند داد. این شرکت چشم به راه دریافت نظرات عموم جامعه، دیگر شرکت‌های فعال در حوزه هوش مصنوعی و نهادهای ناظر و قانون‌گذار است. بااینحال اشکار نیست که نظرات اراعه‌شده تا چه مقدار بر شکل‌دهی نسخه بعدی این پیش‌نویس تأثیر خواهند داشت.
دسته بندی مطالب
اخبار کسب وکار
در سایت خبری خبرخوان آخرین اخبارحوادث,سیاسی,فرهنگ وهنر,اقتصاد و تکنولوژی,دفاعی,ورزشی,ایران,جهان را بخوانید.
منبع
