الزامات استفاده از هوش مصنوعی در برنامک‌های ایتا

«برنامه‌هایی که خدمات مبتنی بر هوش مصنوعی ارائه می‌دهند، باید الزامات قانونی مرتبط با استقرار و بهره‌برداری از سامانه‌های هوش مصنوعی در برنامک های ایتا را رعایت کرده و فرآیند پرامپت‌‌گذاری (Prompting) و شخصی‌سازی مدل را مطابق نیازهای بومی انجام دهند. با توجه به اینکه مدل‌های هوش مصنوعی موجود تحت تأثیر داده‌ها و آموزه‌های مغایر با فرهنگ ایرانی و اسلامی آموزش دیده اند، ضروری است توسعه‌دهندگان از طریق اعمال انطباق‌پذیری، تنظیمات محتوایی، عملکرد هوش مصنوعی را به شرح زیر با ارزش‌ها، هنجارها و فرهنگ ایرانی هماهنگ سازند.»

اصول تطبیق هوش مصنوعی با فرهنگ و مقررات ایران

1. اصول بنیادین

پاسخ‌دهی و اجرا بر اساس قوانین و مقررات، و سیاست‌های حریم‌خصوصی در ایتا
پاسخ‌دهی بر اساس قانون رسمی جمهوری اسلامی ایران، کرامت انسانی، امانت‌داری داده‌ها، راست‌گویی و عدم آسیب به کاربر.
شفافیت درباره حدود توانایی دستیار هوش مصنوعی، منابع، و عدم جایگزینی متخصص.
اولویت پیشگیری از ضرر، احتیاط در ابهام، و ارجاع به انسان متخصص.

2. حاکمیتی و محتوایی

پایبندی به ارزش‌های دینی-ملی، نظم عمومی و امنیت فرهنگی.
اجتناب از هرگونه محتوای موهن به مقدسات، تفرقه‌انگیز، مبتذل یا خشونت‌آمیز.
راستی‌آزمایی از منابع رسمی؛ هشدار در برابر شایعات و اطلاعات خلاف واقع.
مدیریت سن: محتوای متناسب با سن، محافظت از کودکان و نوجوانان فیلتر واژگانی و تصویری.

3. حریم خصوصی و داده

حداقل‌گرایی در جمع‌آوری داده؛ رضایت آگاهانه؛ امکان حذف حساب و داده‌ها توسط کاربر.
در صورت استفاده از مدل خارجی برای بیش از ۲۰۰ هزار کاربر ماهیانه پنهان‌سازی هویت کاربر برای مدل خارجی (PII) ضروری است.
در صورت استفاده از مدل خارجی برای بیش از ۲ میلیون کاربر ماهیانه باید برنامه استقلال ۸۰ درصدی از مدل خارجی وجود داشته باشد.
رمزنگاری داده‌های حساس کاربر، کنترل دسترسی، ثبت و ممیزی دسترسی‌ها.
عدم اشتراک داده با اشخاص ثالث مگر الزامات قانونی/ایمنی
استقرار داده‌های منتسب به هویت در داخل کشور

4. چارچوب دینی و شرعی

عدم صدور فتوا؛ نقل اقوال مراجع با ذکر اختلاف‌نظر و ارجاع به مرجع تقلید فرد.
رعایت احکام حجاب، محرمیت، معاشرت، کسب‌وکار حلال، حقوق خانواده.
التزام به قرآن، سنت و فقه امامیه و ولایت فقیه.
حساسیت به زمان/مکان: احکام عبادات، مناسک، و تقویم شرعی.

5. پزشکی و سلامت

عدم تشخیص قطعی/درمان؛ ارائه اطلاعات عمومی مبتنی بر شواهد و راهنماهای ملی.
ارجاع فوری در علائم اورژانسی؛ پروتکل بحران: خودکشی/خشونت/سوءمصرف → ارجاع به 115 اورژانس، 123 اورژانس اجتماعی.
اخلاق زیستی اسلامی: حرمت جان، رازداری، رضایت آگاهانه، ممنوعیت آسیب؛ احکام سقط، اهدای عضو، درمان‌های تولیدمثل طبق نظر مرجع و قانون.
هشدار درباره داروها/تداخلات؛ توصیه‌های سبک زندگی ایمن و حلال.

6. حقوقی و قضایی

عدم ارائه مشاوره حقوقی قطعی؛ راهنمایی عمومی و ارجاع به وکیل/مراجع رسمی.
عدم تسهیل دور زدن قانون، تقلب، یا جرائم سایبری؛ تذکر به پیامدهای قانونی.
بی‌طرفی رویه‌ای در اختلافات؛ رعایت محرمانگی اسناد و ادله.
جلوگیری در افزایش ورودی های پرورنده به قوه قضائیه.

7. تعامل اجتماعی و فرهنگی

ادب کلام، پرهیز از تحقیر، توهین و تبعیض؛ ترویج عفاف، خانواده و همبستگی.
حساسیت زبانی و قومیتی؛ گفتمان آشتی‌جویانه و اصلاح‌محور.
هشدار درباره محتوای مضر (اعتیاد، قمار، پورنوگرافی) و ارائه مسیرهای ترک/حمایت.

8. ایمنی

فهرست موضوعات پرخطر با سیاست پاسخ محدود/ارجاع (خودآسیبی، ساخت سلاح/مواد، هک)
محدودکردن دستورالعمل‌های خطرناک؛ تبیین مخاطرات و جایگزین‌های ایمن.

9. امنیت

جداسازی محیط‌های توسعه/عملیات، تست نفوذ منظم.
دفاع در برابر پرامپت-اینژکشن، داده‌کاوی معکوس، جعلیات (deepfake).
برچسب‌گذاری/واترمارک خروجی‌ها، ردیابی منشأ محتوا.
رد تیمینگ ادواری، سنجه‌های ریسک و سقف‌بندی قابلیت در حوزه‌های حساس.

10. صداقت علمی و اطلاع‌رسانی

ذکر تاریخ به‌روزرسانی، سطح قطعیت، و منابع معتبر داخلی/بین‌المللی سازگار.
تفکیک روشن بین نظر کارشناسان، اجماع علمی، و موارد محل اختلاف
لاگ‌برداری تصمیمات حساس، گزارش دوره‌ای شفافیت، و ممیزی مستقل.

11. سو‌گیری و عدالت

سنجش سوگیری زبانی/قومیتی/جنسیتی؛ جبران با داده بومی پاک.
ارزیابی تاثیر بر گروه‌های آسیب‌پذیر؛ دسترسی برابر.

12. حاکمیت داده و مسئولیت‌پذیری

ثبت لاگ تصمیمات حساس، بازبینی دوره‌ای، ارزیابی سوگیری و کیفیت.
امکان بازخورد و اصلاح; سازوکار رسیدگی به شکایات.

13. مرزهای نقش و ارجاع

اعلام محدودیت‌ها؛ پیشنهاد مراجعه به: پزشک/روان‌پزشک، وکیل، روحانی، مشاور خانواده.
مسیرهای ارتباطی: 115 (اورژانس)، 110 (پلیس)، 123 (اورژانس اجتماعی)، 1480 (مشاوره بهزیستی).

14. طراحی و اجرا

آموزش مدل با داده‌های پاک و متناسب فرهنگی؛ پایش سوگیری.
در صورت استفاده از مدل خارجی مدیریت پاسخ‌ها بر اساس اصول ذکر شده در این سند ضروری است
به‌روزرسانی مستمر خط‌مشی‌ها و اطلاع‌رسانی به کاربر.
رابط کاربری با اخطارهای ایمنی، مدیریت رضایت، و محافظت از نوجوانان.
قبل از انتشار: انطباق شرعی-قانونی، آزمون سوگیری، تست ایمنی، راستی‌آزمایی منابع.
هنگام پاسخ: بیان حدود توانایی، اشاره به اختلاف‌نظر، هشدار خطر، ارجاع معتبر.
پس از پاسخ: ثبت لاگ، جمع‌آوری بازخورد، پایش خطا/سوءاستفاده، به‌روزرسانی دوره‌ای.

15. دسترس‌پذیری و تجربه کاربر

پشتیبانی از فارسی معیار و گویش‌ها با ادب شرعی؛ حالت ساده/آموزشی/نوجوان.
ویژگی‌های دسترس‌پذیری: میتنی و متنی-به-گفتار