ابزار و راهنمایی برای طراحی، ساخت و ارزیابی مدل‌های هوش مصنوعی باز به‌طور مسئولانه.
طراحی اپلیکیشن مسئول
قوانینی را برای رفتار مدل تعریف کنید، یک برنامه کاربردی ایمن و پاسخگو ایجاد کنید و ارتباط شفاف با کاربران را حفظ کنید.
تراز ایمنی
تکنیک‌ها و راهنمایی‌های اشکال‌زدایی سریع را برای تنظیم دقیق و RLHF کشف کنید تا مدل‌های هوش مصنوعی را با خط‌مشی‌های ایمنی هماهنگ کنید.
ارزیابی مدل
برای انجام یک ارزیابی مدل قوی برای ایمنی، انصاف و واقعی بودن با مقایسه‌کننده LLM، راهنمایی و داده‌ها را بیابید.
پادمان ها
طبقه‌بندی‌کننده‌های ایمنی را با استفاده از راه‌حل‌های آماده استفاده کنید یا خودتان را با آموزش‌های گام به گام بسازید.
به طور فعال خطرات بالقوه برنامه خود را شناسایی کنید و یک رویکرد در سطح سیستم برای ساخت برنامه های کاربردی ایمن و مسئولیت پذیر برای کاربران تعریف کنید.
شروع کنید
سیاست های سطح سیستم را تعریف کنید
نوع محتوایی را که برنامه شما باید تولید کند و نباید تولید کند را مشخص کنید.
طراحی برای ایمنی
رویکرد کلی خود را برای اجرای تکنیک های کاهش ریسک با در نظر گرفتن مبادلات فنی و تجاری تعریف کنید.
شفاف باشید
رویکرد خود را با مصنوعاتی مانند کارت های مدل در میان بگذارید.
سیستم های هوش مصنوعی ایمن
خطرات امنیتی خاص هوش مصنوعی و روش‌های اصلاحی که در چارچوب هوش مصنوعی امن (SAIF) برجسته شده‌اند را در نظر بگیرید.
مدل خود را با سیاست های ایمنی خاص خود با استفاده از تکنیک های تطبیق و تنظیم هماهنگ کنید.
شروع کنید
اعلان‌های ایمن‌تر و قوی‌تر کاردستی کنید
از قدرت LLM ها برای کمک به ایجاد الگوهای سریع امن تر با کتابخانه Model Alignment استفاده کنید.
برای ایمنی مدل ها را تنظیم کنید
رفتار مدل را با تنظیم مدل خود برای هماهنگی با خط مشی های ایمنی و محتوای خود کنترل کنید.
درخواست های مدل را بررسی کنید
با استفاده از ابزار تفسیرپذیری یادگیری (LIT) از طریق بهبود مکرر، اعلان‌های ایمن و مفید بسازید.
با استفاده از راهنما و ابزار ما، خطرات مدل در ایمنی، انصاف و دقت واقعی را ارزیابی کنید.
شروع کنید
مقایسه کننده LLM
انجام ارزیابی‌های جانبی با LLM Comparator برای ارزیابی کیفی تفاوت‌ها در پاسخ‌ها بین مدل‌ها، درخواست‌های مختلف برای یک مدل، یا حتی تنظیم‌های مختلف یک مدل.
دستورالعمل های ارزیابی مدل
درباره بهترین شیوه‌های تیم قرمز بیاموزید و مدل خود را با معیارهای آکادمیک ارزیابی کنید تا آسیب‌های مربوط به ایمنی، انصاف و واقعیت را ارزیابی کنید.
ورودی و خروجی برنامه خود را فیلتر کنید و از کاربران در برابر نتایج نامطلوب محافظت کنید.
شروع کنید
متن SynthID
ابزاری برای واترمارک کردن و تشخیص متن تولید شده توسط مدل شما.
ShieldGemma
مجموعه ای از طبقه بندی کننده های ایمنی محتوا، ساخته شده بر روی Gemma 2، موجود در سه اندازه: 2B، 9B، 27B.
طبقه بندی کننده های چابک
با استفاده از تنظیم کارآمد پارامتر (PET) با داده های آموزشی نسبتاً کمی، طبقه بندی های ایمنی را برای سیاست های خاص خود ایجاد کنید.
ایمنی هوش مصنوعی را بررسی می کند
از انطباق ایمنی هوش مصنوعی در برابر خط مشی های محتوای خود با API ها و داشبوردهای نظارتی اطمینان حاصل کنید.
سرویس تعدیل متن
فهرستی از ویژگی‌های ایمنی، از جمله دسته‌ها و موضوعات بالقوه مضر مختلف را که ممکن است حساس در نظر گرفته شوند، با این API زبان طبیعی Google Cloud که به صورت رایگان زیر یک محدودیت استفاده خاص در دسترس است، شناسایی کنید.
Perspective API
نظرات «سمی» را با این API رایگان Google Jigsaw شناسایی کنید تا سمیت آنلاین را کاهش دهید و از گفتگوی سالم اطمینان حاصل کنید.