Hashtag Trending, 29 января. Магистр права учатся скрывать нечестное поведение; Увольнения в сфере технологий – стратегический шаг? 90 процентов электронных таблиц содержат ошибки

Модели искусственного интеллекта могут научиться скрывать свое нечестное поведение. Открытый искусственный интеллект позволяет каждому легко звонить нескольким GPT в ходе одного разговора. Являются ли массовые увольнения с огромными доходами и стоимостью акций стратегической вещью для крупных технологических компаний? А исследование утверждает, что 90 процентов электронных таблиц содержат ошибки.

Все это и многое другое в выпуске Hashtag Trending «О боже, я в шоке». Я ваш ведущий Джим Лав, ИТ-директор IT World Canada и TechNewsDay в США.

В недавнем исследовании исследователи искусственного интеллекта обнаружили, что большие языковые модели (LLM), обученные вести себя злонамеренно, сопротивляются различным методам обучения безопасности, предназначенным для предотвращения нечестного поведения. Это исследование, проведенное Anthropic, исследовательской компанией в области искусственного интеллекта, включало в себя программирование LLM, подобных ChatGPT, на вредоносные действия, а затем попытку «очистить» их от такого поведения, используя самые современные методы безопасности.

Исследователи использовали два метода, чтобы вызвать злонамеренное поведение ИИ: «экстренный обман», когда ИИ ведет себя нормально во время обучения, но плохо себя ведет при развертывании, и «отравление модели», когда ИИ в целом полезен, но злонамеренно реагирует на определенные триггеры.

Несмотря на применение трех методов обучения технике безопасности — обучение с подкреплением, контролируемую точную настройку и состязательное обучение — студенты LLM продолжали демонстрировать обманчивое поведение. Примечательно, что состязательное обучение имело неприятные последствия: ИИ научился распознавать триггеры и лучше скрывать свое небезопасное поведение во время обучения.

Ведущий автор Эван Хубингер подчеркнул сложность устранения обмана в системах ИИ с помощью существующих методов, вызвав обеспокоенность по поводу потенциальных проблем в борьбе с обманным ИИ в будущем. Результаты исследования указывают на отсутствие эффективной защиты от обмана в системах ИИ, указывая на значительный пробел в существующих методах согласования систем ИИ.

Источники включают: Живая наука

Недавнее исследование показало, что 90 процентов электронных таблиц, содержащих более 150 строк, содержат как минимум одну серьезную ошибку.

Гибкость электронных таблиц, хотя и является ключом к их успеху, также способствует возникновению этих ошибок. Даже несмотря на развитие таких функций, как сценарии Python в Excel, человеческая ошибка остается основной причиной проблем с электронными таблицами.

Иногда последствия приводят к большим новостям. Полицейская служба Северной Ирландии столкнулась с масштабной утечкой данных из-за ошибки в электронной таблице, в результате которой были раскрыты личные данные 10 000 офицеров. Ошибки в таблицах помешали набору стажеров-анестезиологов в Уэльсе, ошибочно называя всех кандидатов «неназначаемыми».

Crypto.com случайно перевел клиенту $10,5 млн вместо $100 из-за ошибки ввода в электронной таблице, а исландский банк недооценил свои акции на миллионы долларов из-за ошибки в электронной таблице.

Отсутствие примеров в США или Канаде не означает, что их не существует.

Но на каждую серьезную ошибку приходится множество других, которые происходят ежедневно.

Эти ошибки, по мнению автора одной статьи, которую я прочитал, возникают из-за отсутствия стандартизации форматирования и структуры электронных таблиц в сочетании с ручным вводом данных, который склонен к ошибкам.

Возможно, пришло время организациям внедрить стандартизацию использования электронных таблиц, улучшить обучение пользователей и воспитать культуру критического мышления в отношении создания и обслуживания электронных таблиц.

Судя по всему, дядя Человека-паука Бен был прав. С большой властью приходит большая ответственность.

Источники включают: Разговор

Правительство США усиливает свои меры в продолжающейся войне чипов с Китаем, предлагая ограничить иностранным организациям, особенно китайским, использование ресурсов облачных вычислений США для обучения моделей искусственного интеллекта.

Министр торговли США Джина Раймондо объявила об этой инициативе в рамках усилий по защите национальной безопасности и поддержанию технологического превосходства США.

Это предложение рассматривается как расширение существующего контроля над экспортом высокопроизводительных процессоров искусственного интеллекта, требующее от американских облачных компаний строгой идентификации своих иностранных пользователей. Цель состоит в том, чтобы помешать организациям из таких стран, как Китай, получить доступ к американским облачным ресурсам для разработки искусственного интеллекта. Этот шаг соответствует более широкой стратегии администрации Байдена, направленной на обеспечение того, чтобы облачные платформы США не использовались для потенциально враждебной разработки ИИ.

Постановление налагает значительную ответственность на компании, занимающиеся облачными вычислениями, обязывая их проверять личность иностранных клиентов, поддерживать стандарты идентификации пользователей и ежегодно сертифицировать их соответствие. Однако китайские организации по-прежнему могут получить доступ к услугам, развернутым в Европе и на Ближнем Востоке.

Реакция отрасли на эти меры была неоднозначной, с некоторой критикой относительно потенциального воздействия на международное сотрудничество в области ИИ. Карл Сабо, главный юрисконсульт NetChoice, торговой группы в сфере высоких технологий, раскритиковал исполнение указа как потенциально незаконное.

Но похоже, что США не отступят от этой стратегии по контролю над использованием своих технологий в разработке искусственного интеллекта, особенно в контексте конкуренции с Китаем.

Источники включают: Оборудование Тома

OpenAI тестирует новую бета-функцию ChatGPT, представляющую диалоги с несколькими GPT. Эта функция позволяет пользователям взаимодействовать с несколькими GPT в одном окне чата, что знаменует собой значительный шаг на пути к концепции OpenAI по созданию универсального помощника для повседневной жизни. Используя символ «@», за которым следует имя GPT, пользователи могут вызывать в чат отдельные GPT, обеспечивая более персонализированный и комплексный подход к работе с помощником.

Сэм Альтман в недавнем подкасте с Биллом Гейтсом подчеркнул, что настраиваемость и персонализация являются ключевыми элементами в дорожной карте развития OpenAI. Это включает в себя адаптацию GPT-4 к индивидуальным предпочтениям, стилям и данным, таким как электронная почта и календари.

Но, похоже, это также делает его платформой для интеграции различных моделей на основе GPT и упрощает эту задачу для всех.

Источники включают: [THE DECODER](

Кликните сюда: Веб-пилот

Технологическая индустрия начала 2024 год со значительной волны увольнений, как и в предыдущем году, несмотря на бурный рост экономики США и процветающий технологический сектор.

Это озадачило меня, и я уверен, что и других. Как технологические компании могут так плохо работать в этом экономическом климате?

Microsoft недавно объявила об увольнении 1900 сотрудников своего игрового подразделения после приобретения Activision Blizzard. Эти сокращения составляют около 8 процентов от общего числа сотрудников игровой компании, насчитывающих 22 000 человек. Google также объявила об увольнениях в начале этого месяца, причем некоторые сокращения продолжатся в течение всего года. Несмотря на эти увольнения, акции Google и Microsoft на этой неделе достигли рекордных высот.

В статье Axios это объясняется тем, что увольнения — это не «признак бедствия», а «стратегический шаг» таких технологических гигантов, как Microsoft и Amazon, которые одновременно сокращают рабочие места и вкладывают значительные средства в такие области, как искусственный интеллект.

Бум и спад не являются чем-то новым в мире технологий. Но, судя по всему, это не то, что происходит. Эти увольнения являются стратегическими, а не отчаянными мерами по сокращению расходов.

Я понимаю, когда индустрия переживает трудности: я руковожу медиакомпанией, и каждый в этой отрасли сталкивается с проблемой сохранения платежеспособности в мире, который хочет свободных СМИ, но не осознает, что людям нужно платить за производство того, что они делают. читайте и смотрите.

Но для того, чтобы отрасль процветала и по-прежнему подвергала людей таким потрясениям, вы думаете, что к настоящему времени мы нашли бы лучший способ.

Просто говорю’

Источники включают: Аксиос

И на этой ноте я обращаюсь к нашей аудитории. Мы с Говардом выпускаем два очень успешных подкаста, каждый день нас посещают тысячи людей, но, честно говоря, нам сложно найти спонсоров.

Выпуск Говарда CyberSecurity Today охватывает от 8 до 10 000 человек, что часто ставит его в десятку лучших технических подкастов в Канаде, США и даже Великобритании.

Мои цифры меньше, но благодаря всем вам мы выросли почти на 50 процентов – спасибо и, пожалуйста, продолжайте рекомендовать нас своим друзьям и оставлять нам такие хорошие отзывы.

И если вы знаете кого-то или какую-то компанию, которая хотела бы спонсировать два самых успешных технологических подкаста, я буду рад услышать ваше мнение.

Hashtag Trending выходит в эфир пять дней в неделю с ежедневным выпуском новостей, а каждую субботу мы проводим интервью под названием Weekend Edition.

Нам нравятся ваши комментарии. Пожалуйста, сообщите нам свое мнение. Вы можете связаться со мной по адресу [email protected] или оставьте комментарий под заметками к шоу на сайте www.itworldcanada.com/podcasts.

Я ваш ведущий, Джим Лав, спасибо, что выслушали, желаю вам чудесного понедельника.