top of page

Gino News

quinta-feira, 26 de setembro de 2024

OpenAI Lança Novo Modelo de Moderação Multimodal para Conteúdo Digital

Tecnologia Segurança Digital Inteligência Artificial

A OpenAI anunciou, em 26 de setembro de 2024, a atualização de sua API de Moderação, introduzindo um novo modelo multimodal baseado no GPT-4o que promete melhorar a detecção de texto e imagens prejudiciais, ajudando desenvolvedores a criar sistemas de moderação mais eficazes.

Create a 2D, lineal perspective image set on a white, textureless background. The distinctive representation should be a vetorial, flat, and corporate styled symbolization of a multimodal moderation model combining both text and images, indicating multiple forms of content are being assessed towards maintaining digital safety. Extra elements should include pastel colors symbolizing calmness and security, geometric shapes to demonstrate the complexity of the data being moderated and lastly, layering or superimposition as a reflection of the need to analyze different contexts.

Imagem gerada utilizando Dall-E 3

Com o crescimento do uso de aplicativos de IA, a OpenAI implementou um novo modelo de moderação chamado omni-moderation-latest, que é mais eficaz na identificação de conteúdos nocivos, incluindo texto e imagens, apresentando melhorias significativas, especialmente em idiomas diferentes do inglês.


O novo modelo de moderação permite que desenvolvedores utilizem a API de Moderação gratuitamente. Além de detectar categorias de danos relacionadas a violência, automutilação e sexualidade, o modelo agora pode avaliar imagens em conjunto com textos, oferecendo um controle mais detalhado nas decisões de moderação. O desempenho do modelo foi otimizado para 40 idiomas, com destaque para melhorias notáveis em línguas de baixo recurso.


A atualização traz várias melhorias notáveis que incluem: uma nova classificação de danos multimodal em seis categorias, adição de duas novas categorias de texto, e uma maior precisão, especialmente para conteúdos não em inglês.


  1. Classificação multimodal de danos em seis categorias.

  2. Detecção de novas categorias de texto ilícito.

  3. Melhorias significativas em idiomas não ingleses.

  4. Modelo gratuito disponível para todos os desenvolvedores.

  5. Aplicações práticas em empresas como Grammarly e ElevenLabs.


Os avanços na moderação AI são cruciais para garantir a segurança nas plataformas digitais, aliviando o trabalho dos moderadores humanos. A API de Moderação se torna uma ferramenta essencial para diversas empresas, ajudando na criação de produtos mais seguros.


A nova atualização da OpenAI não apenas amplia as capacidades de moderação de conteúdo, mas também destaca a importância crescente da inteligência artificial na segurança digital. Para aqueles interessados em tecnologia e moderação de conteúdo, a API apresenta uma oportunidade valiosa que pode ser explorada. Os leitores são incentivados a assinar a nossa newsletter para ficarem atualizados sobre os desenvolvimentos mais recentes nessa área dinâmica.


FONTES:

    1. OpenAI

    2. Moderation API Guide

    3. Grammarly

    4. ElevenLabs

    5. Anúncio da OpenAI

    REDATOR

    Gino AI

    3 de outubro de 2024 às 22:26:48

    PUBLICAÇÕES RELACIONADAS

    Create a 2D, linear perspective image that echoes a corporate and tech-savvy feel. The backdrop is white and textureless, ornamented with an abstract representation of accompanying networks and circuits. Foreground highlights a futuristic interface populated with a group of AI agents, symbolizing the two points, diversity and unity. Interspersed are a variety of AI icons depicting various tasks they can perform. A robotic hand representation is also prominently displayed, symbolizing the supportive functions the system provides to users. Additionally, sprinkle the scene with performance graphs that illustrate the effectiveness and benchmarks of the multitasking AI system compared to competitors. Capture elements of Flat and Vector design styles in the composition.

    Manus: O Novo Sistema de IA que Promete Revolucionar Tarefas Autônomas

    Create a 2D, linear and corporate-style vector image symbolizing a significant milestone in artificial intelligence technology. This image shows the Gemini 2.0 Flash, a model that integrates native image generation and text-based editing. The interface of Gemini 2.0 Flash is shown in use, placed against a plain, white, and texture-less background. In the image, you can see it generating images from text commands within a digital workspace. Additional elements in the image include symbols of artificial intelligence, like brain and circuit icons. Use vibrant colors to convey innovation and technology, and apply a futuristic style that aligns with the vision of advanced technology.

    Google Lança Gemini 2.0 Flash: Revolução na Geração de Imagens com IA

    Create an image in a 2D, linear perspective that visualizes a user interacting with a large-scale language model within a digital environment. The image should be in a vector-based flat corporate design with a white, textureless background. Display charts that show comparisons between performance metrics of Length Controlled Policy Optimization (LCPO) models and traditional methods. Also, include reasoning flows to illustrate the model's decision-making process. To symbolize the real-time application of the model in business operations, include elements of a digital environment. Use cool colors to convey a sense of advanced technology and innovation.

    Nova Técnica Revoluciona Otimização de Raciocínio em Modelos de Linguagem

    Create a 2D, vector-styled illustration with a white and untextured background, conveying corporate aesthetic. Depict the intersection of technology and entertainment, featuring elements of gaming and artificial intelligence. Incorporate graphic elements representing the evolution of games in the digital era, and artificial intelligence icons to symbolize technological integration in game development. Use bright, vibrant colors to convey emotion and innovation in the gaming industry. This image should not contain any identifiable figures or characters and should maintain a flat, linear perspective.

    Desafios para Netflix Games após saída do vice-presidente de IA generativa

    Fique por dentro das últimas novidades em IA

    Obtenha diariamente um resumo com as últimas notícias, avanços e pesquisas relacionadas a inteligência artificial e tecnologia.

    Obrigado pelo envio!

    logo genai

    GenAi Br © 2024

    • LinkedIn
    bottom of page