Как пазим историите безопасни

Нашият ангажимент за безопасност

Никоя история не достига до вашето дете, освен ако не е преминала четири отделни проверки. Ако не премине нито една от тях, тя се регенерира — не се публикува, не се пуска като „вероятно добра". Тази страница обяснява точно какви са тези проверки и защо ги изградихме по този начин.

Вярваме, че родителите заслужават да разберат системата, а не само да се доверяват на значка.

Защо безопасността е предизвикателство при AI-генерирано съдържание

Детска книга, написана от човек автор, преминава през редакторски преглед, издателски насоки и оценка за подходяща възраст. Тези стъпки съществуват, защото езикът е деликатен — нещо, което изглежда неутрално на повърхността, може да носи неподходящо значение за малък читател.

AI-генерираното съдържание е изправено пред същото предизвикателство без същите институционални гаранции. Прекарахме значително усилие в изграждането на система за безопасност, специално настроена за деца на възраст 3–10 години.

Четирислойната система за безопасност

Слой 1 — Филтър преди генерирането

Преди да бъде написана каквато и да е история, ние проверяваме профила на детето и интересите му спрямо списък с теми и идеи, които никога не трябва да се появяват в детски истории. AI получава изрични ограничения: знае, че пише за дете на конкретна възраст, с конкретни интереси, и е инструктиран за това, което е забранено.

Това не е черен списък с думи — това е структурно ограничение на вида история, която може да бъде поискана. Интересът на детето към „бойни игри" се превръща в „приключения и решаване на проблеми" в историята.

Слой 2 — Автоматизирана модерация на съдържанието

След като всяка глава е написана, тя преминава през автоматизирана система за модерация на съдържанието. Всяка глава, надвишаваща консервативния праг, се маркира и изпраща за регенериране.

Прагът е зададен консервативно — понякога напълно приемливи глави се маркират и регенерират, защото предпочитаме да грешим в посока на предпазливостта.

Слой 3 — Класификатор за детско съдържание

Общата модерация в Слой 2 е обучена върху съдържание за възрастни. Детското съдържание има различни стандарти — нещо, което преминава модерацията за възрастни, може да е твърде страшно, твърде тъжно или твърде зряло за 5-годишно дете.

Използваме специален класификатор, обучен специално върху детски текстове, за да улови тези специфични за възрастта проблеми: „твърде страшно за малки деца", „неподходящо зрели теми", „стереотипи или пристрастия".

Слой 4 — Проверка на нивото на четене

Четвъртата проверка е за нивото на четене, а не за вида съдържание. Историите са калибрирани към Lexile резултата на вашето дете. След писането измерваме действителния Lexile резултат на генерираната глава. Ако е извън допустимия диапазон с повече от 100 точки, главата се регенерира.

Какво се случва, когато история не премине проверката

Ако глава не премине нито една от четирите проверки:

1. Тя автоматично се регенерира — до три опита.
2. Ако и трите опита не успеят, историята се замества с безопасна, предварително одобрена история от нашата библиотека.
3. Неуспехът се регистрира за преглед от нашия екип.

Детето ви никога не вижда неуспешния опит.

Преглед от хора (5% извадка)

В допълнение към автоматизираните проверки, произволни 5% от всички истории се преглеждат от човек преди публикуване в библиотеката на детето. Всяка история, изискваща повече от един опит за генериране, също се маркира за преглед от човек.

Не твърдим, че всяка отделна история се преглежда от човек. Това твърдение не би било вярно и смятаме, че е важно да бъдем честни.

Родителски контрол

Вие оставате в контрол на това, което детето ви чете. От таблото за родители можете да:

• Маркирате всяка история — нашият екип ще я прегледа в рамките на 24 часа.
• Изтриете всяка история от библиотеката на детето ви постоянно.
• Актуализирате интересите по всяко време, за да пренасочите видовете генерирани истории.
• Прегледате всички истории — всяка история, генерирана за детето ви, е видима в таблото.

Съответствие с COPPA и поверителност на данните

StoryKind е проектиран от нулата за безопасност на децата — не само за безопасност на съдържанието, но и за безопасност на данните.

Спазваме Закона за защита на поверителността на децата в интернет (COPPA) в Съединените щати и сме проектирани да отговаряме на изискванията на GDPR в Европа. Събираме само необходимото за предоставяне на услугата:

• Само собственото (никога фамилно) име на детето
• Възраст и ниво на четене
• Интереси, избрани от вас от нашия списък
• История на четенето и резултати от тестовете

Никога не събираме снимки, имена на училища, точни данни за местоположение или информация за контакт за деца.

Въпроси?

Ако имате опасения относно история, получена от детето ви, или въпрос за работата на нашата система за безопасност, свържете се с нас на [email protected]. Отговаряме на всяка загриженост относно съдържанието в рамките на 24 часа.