{"id":11901,"date":"2024-08-09T15:21:45","date_gmt":"2024-08-09T15:21:45","guid":{"rendered":"https:\/\/obewise.com.br\/?p=11901"},"modified":"2024-08-09T15:21:46","modified_gmt":"2024-08-09T15:21:46","slug":"a-anthropic-pagara-ate-us-15-000-a-hackers-que-encontrarem-vulnerabilidades-em-seus-sistemas-de-ia","status":"publish","type":"post","link":"https:\/\/obewise.com.br\/index.php\/2024\/08\/09\/a-anthropic-pagara-ate-us-15-000-a-hackers-que-encontrarem-vulnerabilidades-em-seus-sistemas-de-ia\/","title":{"rendered":"A Anthropic pagar\u00e1 at\u00e9 US$ 15.000 a hackers que encontrarem vulnerabilidades em seus sistemas de IA"},"content":{"rendered":"\n



A Anthropic anunciou o lan\u00e7amento de um programa expandido de ca\u00e7a a vulnerabilidades, oferecendo a especialistas terceirizados em seguran\u00e7a cibern\u00e9tica at\u00e9 US$ 15.000 em recompensas pela identifica\u00e7\u00e3o de problemas cr\u00edticos em seus sistemas de intelig\u00eancia artificial.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Fonte da imagem: Copiloto<\/p>\n\n\n\n


A iniciativa visa encontrar \u201ct\u00e9cnicas de evas\u00e3o universais\u201d, isto \u00e9, t\u00e9cnicas de hacking que possam contornar consistentemente as medidas de seguran\u00e7a da IA \u200b\u200bem \u00e1reas de alto risco, como amea\u00e7as qu\u00edmicas, biol\u00f3gicas, radiol\u00f3gicas e nucleares, bem como no dom\u00ednio cibern\u00e9tico. <\/p>\n\n\n\n


Curiosamente, esta abordagem difere das estrat\u00e9gias de outros grandes intervenientes no campo da IA. Por exemplo, OpenAI e Google t\u00eam programas de recompensas, mas concentram-se mais em vulnerabilidades de software tradicionais do que em explora\u00e7\u00f5es espec\u00edficas da ind\u00fastria de IA. Al\u00e9m disso, a Meta foi recentemente criticada por sua posi\u00e7\u00e3o relativamente velada em rela\u00e7\u00e3o \u00e0 pesquisa de seguran\u00e7a de IA. Pelo contr\u00e1rio, o foco claro da Anthropic na abertura estabelece um novo padr\u00e3o de transpar\u00eancia nesta quest\u00e3o.
No entanto, a efic\u00e1cia dos programas de verifica\u00e7\u00e3o de vulnerabilidades na abordagem de toda a gama de problemas de seguran\u00e7a da IA \u200b\u200bpermanece controversa. Os especialistas observam que poder\u00e1 ser necess\u00e1ria uma abordagem mais abrangente, incluindo testes extensivos, melhor interpretabilidade e talvez novas estruturas de governa\u00e7\u00e3o necess\u00e1rias para garantir que os sistemas de IA se alinham globalmente com os valores humanos.
O programa come\u00e7a como uma iniciativa apenas para convidados (testes fechados) em parceria com a renomada plataforma HackerOne, mas no futuro a Anthropic planeja expandir o programa, tornando-o aberto e criando um modelo independente separado para colabora\u00e7\u00e3o da ind\u00fastria em seguran\u00e7a de IA.<\/p>\n","protected":false},"excerpt":{"rendered":"

A Anthropic anunciou o lan\u00e7amento de um programa expandido de ca\u00e7a a vulnerabilidades, oferecendo a especialistas terceirizados em seguran\u00e7a cibern\u00e9tica at\u00e9 US$ 15.000 em recompensas pela identifica\u00e7\u00e3o de problemas cr\u00edticos em seus sistemas de intelig\u00eancia artificial. Fonte da imagem: Copiloto A iniciativa visa encontrar \u201ct\u00e9cnicas de evas\u00e3o universais\u201d, isto \u00e9, t\u00e9cnicas de hacking que possam …<\/p>\n","protected":false},"author":1,"featured_media":11903,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_bbp_topic_count":0,"_bbp_reply_count":0,"_bbp_total_topic_count":0,"_bbp_total_reply_count":0,"_bbp_voice_count":0,"_bbp_anonymous_reply_count":0,"_bbp_topic_count_hidden":0,"_bbp_reply_count_hidden":0,"_bbp_forum_subforum_count":0,"om_disable_all_campaigns":false,"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"_shortscore_rating":"","_shortscore_game":"","_shortscore_summary":"","footnotes":""},"categories":[390,112],"tags":[295,31],"coauthors":[393],"class_list":["post-11901","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-inteligencia-artificial","category-tecnologia","tag-ia","tag-tecnologia"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/obewise.com.br\/index.php\/wp-json\/wp\/v2\/posts\/11901","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/obewise.com.br\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/obewise.com.br\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/obewise.com.br\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/obewise.com.br\/index.php\/wp-json\/wp\/v2\/comments?post=11901"}],"version-history":[{"count":1,"href":"https:\/\/obewise.com.br\/index.php\/wp-json\/wp\/v2\/posts\/11901\/revisions"}],"predecessor-version":[{"id":11904,"href":"https:\/\/obewise.com.br\/index.php\/wp-json\/wp\/v2\/posts\/11901\/revisions\/11904"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/obewise.com.br\/index.php\/wp-json\/wp\/v2\/media\/11903"}],"wp:attachment":[{"href":"https:\/\/obewise.com.br\/index.php\/wp-json\/wp\/v2\/media?parent=11901"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/obewise.com.br\/index.php\/wp-json\/wp\/v2\/categories?post=11901"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/obewise.com.br\/index.php\/wp-json\/wp\/v2\/tags?post=11901"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/obewise.com.br\/index.php\/wp-json\/wp\/v2\/coauthors?post=11901"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}