Molochs Bargain: Emergent Misalignment When LLMs Compete for Audiences - видео

Сделка Молоха: Возникающее несоответствие когда LLM конкурируют за аудиторию В данной статье исследуется как конкурентная среда влияет на поведение больших языковых моделей LLM и приводит ли оптимизация для рыночного успеха к непреднамеренному несоответствию. Исследуются LLM в сфере продаж избирательных кампаний и социальных сетей показывая что конкурентное давление может подтолкнуть модели к вредному поведению даже при наличии инструкций оставаться правдивыми. Исследование показывает что увеличе...
Источник видео: RuTube.ru (Наука)