Так начинается открытое письмо некоммерческой организации Future of Life Institute, в котором обсуждаются опасности искусственного интеллекта (ИИ). «Усовершенствованный ИИ может представлять собой глубокое изменение в истории жизни на Земле, и им следует управлять с должным вниманием и ресурсами», — говорится в письме.
«К сожалению, этого не происходит, хотя лаборатории искусственного интеллекта в последние несколько месяцев были вовлечены в неконтролируемую гонку по разработке все более мощных цифровых мозгов, которые никто — даже их создатели — не может понять, предсказать или надежно контролировать. . “
