Responsible AI: məsuliyyətlə qurmaq

Mətn yaradan, tövsiyə verən və hərəkət edən sistemlər insanlara təsir edir. Quran kimi verdiyiniz qərarlar bu təsirin yaxşı olub-olmayacağını müəyyən edir. Bu fəsil nə hüquqi bələdçi, nə də etika seminarıdır. Bu, AI sistemlərini daha təhlükəsiz, daha dürüst və daha etibarlı edən mühəndislik praktikaları toplusudur — real həyatda nəyin səhv getdiyindən çıxarılmış.

Sisteminizin nəyi səhv edə biləcəyini bilin

İstifadəyə verməzdən əvvəl onun zərər vura biləcəyi yolları yazın. Ümumi şəkildə yox: konkret.

Yanlış olan və əməl ediləcək tibbi, hüquqi və ya maliyyə məsləhəti verə bilər.
Paylaşılan context vasitəsilə bir istifadəçinin data-sını digərinə sızdıra bilər.
Manipulyasiya edilərək şirkətinizin adına yazılmasını istəməyəcəyiniz məzmun istehsal edə bilər.
Bir qrup üçün sistematik olaraq daha pis olan qərar (krediti rədd etmək, əməliyyatı flag-ləmək, namizədi sıralamaq) verə bilər.
İstifadəçinin niyyətində olmayan hərəkət (e-məktub göndərmək, qeydi silmək, alış etmək) edə bilər.

Siyahıdakı hər bəndə ya mitigation, ya test, ya da adı çəkilən məsul şəxslə açıq qəbul təyin edilir. Sistem dəyişəndə siyahı yenidən nəzərdən keçirilir.

Dəqiqlikdən kənar evaluation

Fəsil 3 output-ların düzgün olub-olmadığını qiymətləndirməkdən bəhs etdi. Məsuliyyətli deployment üçün daha çox ölçü lazımdır:

Zərərli output. Təhlükəli, təhqiramiz və ya yersiz məzmun almağa çalışan prompt-lar toplusu. Sistemin bunlara tabe olma tezliyini izləyin.
Fairness. Eyni tapşırığı yalnız qorunan əlamətə (ad, cins, milliyyət) görə fərqlənən girişlərlə işə salın. Output-dakı fərqlər tapıntıdır.
Robustness. Yazı səhvləri, başqa dillər, düşməncəsinə ifadə tərzi, çox uzun girişlər, boş girişlər.
Dürüstlük. Sistem lazım olanda qeyri-müəyyənliyi ifadə edirmi? Cavab verə bilmədiyini etiraf edirmi? Mənbə uydururmu?
Privacy. Bir istifadəçinin məlumatını başqası çıxara bilərmi? Sistem context-indəki sirləri təkrarlayırmı?

Mümkün olanı avtomatlaşdırın. Qalanını sistemi sındırmağa çalışan insanlarla red-team edin.

Həqiqətən işləyən insan nəzarəti

"Hər output-u insan yoxlayır" tez-tez iddia olunur, nadir hallarda doğru olur. İşləyən review-nun üç xüsusiyyəti var:

Reviewer-in mühakimə üçün məlumatı var. Kredit qərarını girişlərsiz göstərmək review deyil.
Reviewer-in vaxtı var. Hər birinə 30 saniyə ayrılan gündəlik 2000 qərarlıq növbə review deyil.
Reviewer hərəkət edə bilər. Sistemin qərarını ləğv etmək yavaş və ya arzuolunmazdırsa, review teatrdır.

Tam review mümkün olmayan yerdə seçmə aparın. Riskin yüksək olduğu yerdə sign-off tələb edin. Hərəkət geri qaytarıla bilən və aşağı riskli olan yerdə sistemə hərəkət etməyə icazə verin və sonradan audit edin.

İstifadəçilərlə şəffaflıq

AI sistemi ilə ünsiyyətdə olan insanlar bunu bilməlidir. AI qərarından təsirlənən insanlar sistemin iştirak etdiyini və qərar əhəmiyyətlidirsə, bununla bağlı nə edə biləcəklərini öyrənə bilməlidir. Bir çox yurisdiksiyada bu artıq qanuna çevrilir; onsuz da yaxşı praktika idi.

Konkret olaraq:

AI ilə yaradılmış məzmunu və AI əsaslı qərarları etiketləyin.
İstifadəçilərə insana çatmaq üçün yol verin.
Sistemin onların data-sı ilə nə etdiyini sadə dillə izah edin.
Sistemi olduğundan daha bacarıqlı, daha əmin və ya daha insanabənzər görünəcək şəkildə dizayn etməyin.

Security

AI sistemlərinin köhnə attack surface-lərinin yanında yenisi də var.

Prompt injection. Fəsil 3 və 4-də əhatə olunub. Modelin oxuduğu hər mətn onun istiqamətini dəyişməyə cəhd edə bilər. Data-nı təlimatlardan ayırın; modelin edə biləcəklərini məhdudlaşdırın; məzmuna əsaslanaraq heç vaxt permission verməyin.
Data exfiltration. Tool-lara çıxışı olan model data-nı haradasa göndərməyə aldadıla bilər. Egress nəzarəti server-lərə olduğu qədər agent-lərə də aiddir.
Modelin oğurlanması və sui-istifadə. Rate limit-lər, authentication və qeyri-adi istifadə pattern-lərinin monitorinqi.
Supply chain. Üçüncü tərəflərdən gələn modellər, dataset-lər və prompt-lar backdoor və ya qərəz daşıya bilər. Sizinkilərin haradan gəldiyini bilin.

Bu risklərə attacker və defender gözü ilə daha ətraflı baxış, OWASP Top 10 for LLM Applications əsasında, CyberSecurity kitabının 9-cu fəslindədir.

Production-da monitorinq

Deploy etmək bitirmək deyil. İzləyin:

Seçmə trafikdə output keyfiyyətini — avtomatik və insanlar tərəfindən qiymətləndirilən.
Refusal nisbətini — həm çox yüksək (faydasız), həm də çox aşağı (təhlükəsiz deyil).
İstifadəçi feedback siqnallarını: bəyənməmə, yenidən generasiya, insana yönləndirmə.
Girişlərdəki drift-i: yeni mövzular, yeni dillər, yeni hücum pattern-ləri.
Xərc və latency-ni — bunlar səssizcə böyüməyə meyllidir.

Kill switch olsun. Kimin və nə qədər tez basa biləcəyini bilin.

Ehtiyat vərdişləri

Təcrübəli komandaların gəlib çıxdığı qısa siyahı:

Standart olaraq işi görən ən az bacarıqlı modeli və ən az permission-ı seçin.
Geri qaytarıla bilməyən hər şey üçün insanı loop-da saxlayın.
İstənilən qərarı bərpa etməyə kifayət edəcək qədər log-layın.
Dar buraxın, sonra genişləndirin. Bir işi yaxşı görən sistemi təhlükəsiz etmək hər şeyi görəndən asandır.
Nəyi qurmamağa qərar verdiyinizi və səbəbini yazın.

Bu niyə vacibdir

Bu kitabda təsvir olunan sistemlər software-in nadir hallarda olduğu qədər güclüdür: ümumiləşdirir, hərəkət edir və milyonlarla insana sürətlə çatdırılır. Bu gücə diqqətlə yanaşan quranlar artaraq çoxalan etimad qazanacaq. Yanaşmayanlar isə vaxtlarını insidentlərə, geri çəkilmələrə və səhvlərinə cavab olaraq yazılan tənzimləməyə sərf edəcək.

Qurun. Elə qurun ki, verdiyi hər qərarı təsirləndirdiyi insana izah etməkdə rahat olasınız.

Düşünmək üçün

Qurduğunuz və ya istifadə etdiyiniz sistem üçün zərər siyahısını yazın. Hər bəndin məsulu varmı?
Bir fairness testi hazırlayın: eyni output verməli olan giriş cütü. İşə salın.
Sisteminizin edə biləcəyi yeganə geri qaytarıla bilməyən hərəkəti müəyyən edin. Modellə həmin hərəkət arasında nə dayanır?