Нейросети развиваются очень быстро и все больше участвуют в повседневной жизни людей. Очень важно, чтобы искусственный разум вел себя этично в общении с пользователями и повышал уровень доверия к себе.
С этим связано активное привлечение специалистов в области философии, которые помогают разрабатывать нейросети, ориентированные на общечеловеческие нормы и ценности.
Конкретным примером может служить доктор философии Аманда Аскелл, которой поручено управление отделом, обучающим ИИ-чат-бота Claude. Специалист помогает формировать у чат-бота честный и позитивный стиль общения.
Иасон Габриэл, в прошлом преподаватель моральной и политической философии в Оксфордском университете, ныне сотрудничает с Google DeepMind. Его цель - обучать нейросети с ориентиром на человеческие ценности.
