Как пазим историите безопасни
Нашият ангажимент за безопасност
Създаваме истории за деца на възраст 3–10 години. Това означава, че ограничаваме какво може да се поиска и как AI пише — и даваме на родителите ясни контроли, когато нещо не е наред. Тази страница обяснява какво наистина правим днес, без маркетингови „слоеве“, които не работят в продукция.
Вярваме, че родителите заслужават честно описание на системата, а не само значка.
Защо безопасността е предизвикателство при AI-генерирано съдържание
Детска книга, написана от човек автор, преминава през редакторски преглед, издателски насоки и оценка за подходяща възраст. Тези стъпки съществуват, защото езикът е деликатен.
AI-генерираното съдържание е изправено пред същото предизвикателство без същите институционални гаранции. StoryKind е настроен за деца 3–10: подсказки според възрастта, блокирани теми и инструменти за родителски преглед.
Какво работи при всяка история
Филтър преди генерирането
Преди да бъде написана каквато и да е история, проверяваме профила на детето и интересите му спрямо теми, които не трябва да се появяват в детски истории. AI получава изрични ограничения: знае, че пише за дете на конкретна възраст, с конкретни интереси, и какво е забранено.
Интересът към „бойни игри“ се превръща в приключения и решаване на проблеми. „Акули" води до океански приключения, не към ужас.
Инструкции за подходящо за възрастта писане
Всеки опит за генериране включва системни подсказки, които изискват добър, подходящ език и забраняват насилие, травма и други твърдо блокирани теми. Историите са насочени и към нивото на четене на детето.
Какво не твърдим като винаги включено днес
В кода има допълнителни автоматизирани проверки (модерация от трета страна, класификатор за детско съдържание и проверка на Lexile диапазон). Тези слоеве след генерирането не са включени в продукция, докато моделите и корпусите зад тях не отговорят на нашия стандарт за качество. Предпочитаме да не преувеличаваме, вместо да твърдим, че всяка глава минава през четири отделни автоматични гейта.
Ако заявката не премине филтъра преди генериране, историята не се доставя. Неуспешните опити се регистрират за нашия екип.
Илюстрации
Илюстрациите на главите споделят стил на книгата (палитра и вид) навсякъде. Героят се описва от избори за аватар, които правите вие — не от снимка на детето. Не твърдим пикселна еднаквост на лицето на всяка страница.
Родителски контрол
Вие оставате в контрол на това, което детето ви чете. От таблото за родители можете да:
- Докладвате всяка история — нашият екип ще я прегледа.
- Изтриете всяка история от библиотеката на детето постоянно.
- Актуализирате интересите по всяко време.
- Прегледате всички истории — всяка генерирана история е видима в таблото.
Екипът може също да скрие или премахне истории след преглед.
Съответствие с COPPA и поверителност на данните
StoryKind е проектиран от нулата за безопасност на децата — не само за съдържанието, но и за данните.
Спазваме COPPA в Съединените щати и сме проектирани да отговаряме на GDPR в Европа. Събираме само необходимото:
- Само собственото (никога фамилно) име на детето
- Възраст и ниво на четене
- Интереси, избрани от вас
- История на четенето и резултати от тестовете
Никога не събираме снимки, имена на училища, точни данни за местоположение или контакти за деца.
Въпроси?
Свържете се с нас на [email protected]. Отговаряме на всяка загриженост относно съдържанието в рамките на 24 часа.