6 zorgwekkende dingen die OpenAI's modellen deden terwijl dat niet de bedoeling was

OpenAI heeft 6 gevallen van “onverwacht of zorgwekkend modelgedrag” bekendgemaakt, die de afgelopen 6 maanden zijn waargenomen. Ook heeft het bedrijf een framework gelanceerd waarin wordt beloofd om dit soort bevindingen voortaan te melden. De gevallen variëren van modellen die hun eigen fouten verbergen tot modellen die ongeoorloofde acties ondernemen om obstakels te omzeilen. OpenAI