A OpenAI, renomada pela criação do ChatGPT e destacada na vanguarda da evolução de inteligências artificiais criativas, implementou diretrizes de segurança renovadas para suas inovações. Neste novo cenário, a empresa introduziu um “conselho consultivo de proteção” posicionado acima dos grupos de engenharia. Este conselho tem o papel de orientar a alta administração e o conselho diretor quanto aos desafios associados aos recentes avanços em IA desenvolvidos pela organização. As decisões estratégicas, sob a gestão do CEO Sam Altman, serão influenciadas por essas diretrizes, e a direção tem a prerrogativa de rejeitar essas escolhas. Esta abordagem busca garantir um desenvolvimento responsável e seguro da IA, considerando ética e transparência. O objetivo é assegurar que as inovações tecnológicas estejam alinhadas com os princípios de segurança e bem-estar social, minimizando riscos e promovendo um uso consciente da IA.
O propósito central da renovação é traçar uma rota transparente para reconhecer, examinar e determinar ações frente aos perigos “devastadores” imbuídos nos modelos em construção. Sob a definição de risco devastador, a OpenAI abrange qualquer ameaça que possa ocasionar prejuízos econômicos na casa dos bilhões ou resultar em ferimentos sérios, ou óbitos de um número significativo de pessoas – abrangendo, mas não limitando-se, a perigos existenciais. Com essa atualização, a OpenAI visa estabelecer um padrão de referência no gerenciamento de riscos em IA, focando na prevenção de impactos negativos de grande escala. Essa iniciativa reflete o compromisso da empresa com a segurança e a responsabilidade no avanço tecnológico, buscando equilibrar inovação e proteção ao bem-estar humano. A estratégia enfatiza a importância de uma visão proativa e cautelosa no desenvolvimento de inteligências artificiais avançadas, garantindo que os benefícios da tecnologia não sejam ofuscados por consequências indesejadas.
Na descrição de sua nova estratégia, a OpenAI afirma que qualquer decisão para prosseguir ou pausar desenvolvimentos em inteligência artificial será “orientada por evidências científicas e fundamentada em dados reais”. Ou seja, focada menos em cenários teóricos não testados e mais em prognósticos baseados em dados objetivos e análises precisas. Para alcançar isso, a organização se compromete a realizar avaliações periódicas de seus sistemas de IA e seus impactos, além de “testá-los ao extremo” para identificar potenciais ameaças que possam surgir – uma prática que também indicará a eficácia das estratégias de redução de riscos já implementadas. Este processo sublinha o compromisso da OpenAI com um avanço cuidadoso e responsável em IA, destacando a importância de uma postura preventiva e analítica. Ao adotar essa abordagem, a empresa não só reforça seu papel na liderança de inovações seguras em inteligência artificial, mas também estabelece um padrão para a indústria, promovendo o equilíbrio entre progresso tecnológico e proteção ao bem-estar coletivo.
Para mensurar a segurança de seus modelos ao longo do tempo, a OpenAI implementará um sistema de “fichas de avaliação” para analisar os perigos associados a esses sistemas em várias dimensões: proteção cibernética, riscos químicos, biológicos, radiológicos e nucleares (abreviados como CBRN), capacidade de influência e independência operacional do modelo. A classificação de risco será categorizada como baixo, moderado, alto ou crítico, sendo a maior pontuação em qualquer categoria a determinante para a segurança geral do modelo. Considerando a possibilidade de viés dos criadores na avaliação de suas próprias inovações, o recém-formado conselho consultivo de segurança revisará essas avaliações. Qualquer orientação fornecida por este conselho será encaminhada à alta liderança da empresa, que terá o poder de anular quaisquer decisões da equipe executiva. Este método visa assegurar uma avaliação imparcial e minuciosa, elevando o padrão de segurança e responsabilidade. A abordagem busca criar um ciclo de feedback contínuo entre desenvolvedores, avaliadores e liderança, promovendo um desenvolvimento de IA que é ao mesmo tempo, inovador e alinhado com os mais altos padrões de segurança e ética.
Leia mais:
- Gods Unchained | TCG NFT volta à Epic Games
- Binance revela em pesquisa que brasileiros aumentarão investimentos cripto
- Quantum Paradox | Feedback positivo de desenvolvimento e planos futuros
Assine nossas notícias para receber todas as novidades do mundo cripto!
