هوش مصنوعی شروع به بهبود هوش مصنوعی کرد

هوش مصنوعی حالا فقط یک ابزار برای کمک به پژوهشگران نیست ؛ پژوهش جدید شرکت Anthropic نشان می‌ دهد سامانه‌ های هوش مصنوعی می‌توانند بخشی از فرایند پژوهش برای بهبود مدل‌ های دیگر را نیز بر عهده بگیرند.

به گزارش ملاردی‌ ها ، پژوهشگران Anthropic در مطالعه‌ ای که ۲۸ اوت ۲۰۲۶ منتشر شده ، سامانه‌ ای با عنوان «پژوهشگر خودکار هم‌راستاسازی» یا Automated Alignment Researcher ساخته‌ اند. این سامانه با استفاده از مدل‌ های هوش مصنوعی ، ادبیات علمی مرتبط را بررسی می‌ کند ، برای حل یک مشکل روش پیشنهادی ارائه می‌ دهد ، آزمایش انجام می‌ دهد ، نتایج را ارزیابی می‌ کند و در چندین مرحله روش خود را بهبود می‌دهد.

تمرکز این پژوهش بر موضوعی مهم در توسعه هوش مصنوعی است : چگونه می‌ توان مدل‌ های قدرتمند را طوری آموزش داد که رفتارهای ناخواسته و خطرناک کمتری داشته باشند. پژوهشگران این سامانه را روی ۱۰ نوع مختلف از خطاهای هم‌ راستایی از جمله فریب ، تملق گویی افراطی و برخی رفتارهای آسیب پذیر در برابر حملات آزمایش کردند.

نتایج نشان داد روش‌ های برتر تولید شده توسط پژوهشگران خودکار توانستند هر ۱۰ مورد بررسی شده را بهبود دهند و در عین حال قابلیت‌ های عمومی مدل را تا حد زیادی حفظ کنند. این روش‌ ها همچنین روی داده‌ ها و آزمون‌ هایی که در فرایند اولیه در اختیار سامانه نبودند ، عملکرد مناسبی نشان دادند و در آزمایش‌ هایی روی مدل‌ هایی تا ۴.۷ برابر بزرگ تر نیز اثر خود را حفظ کردند.

یکی از بخش‌ های قابل توجه آزمایش ، مقایسه عملکرد سامانه هوش مصنوعی با پژوهشگران انسانی بود. در این آزمایش ۲۸ پژوهشگر باتجربه تا هشت ساعت فرصت داشتند برای همان مسائل روش ارائه کنند ، اما بهترین روش‌ های تولید شده توسط پژوهشگران خودکار عملکرد بهتری داشتند.

با این حال ، نتایج این پژوهش به معنای آن نیست که هوش مصنوعی اکنون کاملاً مستقل از انسان در حال ساخت نسخه جدیدی از خودش است. آزمایش Anthropic در یک محیط کنترل شده و برای یک هدف مشخص یعنی بهبود هم‌ راستایی و ایمنی مدل‌ های هوش مصنوعی انجام شده است. سامانه همچنان در چارچوبی طراحی شده توسط پژوهشگران فعالیت می‌ کند و عملکرد آن نیز با معیارهای مشخص ارزیابی می‌ شود.

اهمیت این دستاورد در این است که اگر هوش مصنوعی بتواند بخشی از فرایند پژوهش و آزمایش روش‌ های جدید برای بهبود مدل‌ ها را خودکار کند ، سرعت توسعه فناوری هوش مصنوعی می‌ تواند افزایش پیدا کند. Anthropic در پژوهش دیگری که در آوریل ۲۰۲۶ منتشر کرده بود نیز امکان استفاده از مدل‌ های زبانی برای انجام مستقل‌ تر بخشی از پژوهش‌ های هم‌راستاسازی را بررسی کرده بود.

این روند می‌ تواند در آینده به یکی از موضوعات مهم رقابت میان شرکت‌ های بزرگ هوش مصنوعی تبدیل شود؛ جایی که مدل‌ های هوش مصنوعی نه تنها از خروجی پژوهشگران انسانی استفاده می‌ کنند ، بلکه خودشان نیز در جست وجو ، آزمایش و ارزیابی روش‌ های بهتر برای توسعه نسل‌ های بعدی مدل‌ ها نقش بیشتری خواهند داشت.

ملاردی‌ ها این موضوع را در صورت انتشار پژوهش‌ ها و نتایج جدید از سوی شرکت‌ های بزرگ فناوری و مراکز تحقیقاتی ، پیگیری و به روزرسانی خواهد کرد.

انتهای پیام/