Reddit está mejorando su juego de inteligencia artificial nuevamente, esta vez con la implementación de un filtro de acoso impulsado por LLM en beneficio de su ejército de moderadores voluntarios.
La existencia del nuevo Filtro de Acoso fue descubierta durante una Desarmado APK por Android Authority, que detectó su existencia en la versión 2024.10.0 de la aplicación oficial de Reddit para Android. Esa versión de la aplicación oficial de Android Reddit ha aparecido en varias fuentes no oficiales en línea, pero Google Play Store todavía muestra 2024.08.0 como la versión más reciente disponible de forma generalizada.
La aplicación contiene líneas de código que hacen referencia a un modelo de lenguaje grande capacitado para ayudar a los moderadores a prevenir la publicación de publicaciones de acoso y está respaldada por Reddit. página de ayuda actualizado la semana pasada que refleja la existencia de la nueva herramienta.
"El filtro de acoso es una configuración de seguridad comunitaria opcional que permite a los moderadores filtrar automáticamente publicaciones y comentarios que probablemente se consideren acosadores", se lee en la página de ayuda. "El filtro funciona con un modelo de lenguaje grande (LLM) que está entrenado en las acciones del moderador y el contenido eliminado por las herramientas internas y los equipos de aplicación de Reddit".
El filtro se puede habilitar en las herramientas de modificación de una comunidad Reddit, pero los moderadores individuales deberán tener permisos para cambiar la configuración del subreddit para habilitarlo.
El filtro de acoso se puede configurar en bajo (“filtra la menor cantidad de contenido pero con los resultados más precisos”) y alto (“filtra la mayor cantidad de contenido pero puede ser menos preciso”), y también incluye una lista de permitidos explícita para obligar a la IA a ignore ciertas palabras clave, de las cuales se pueden agregar hasta 15.
Una vez habilitado, el filtro crea una nueva etiqueta en la cola de moderación llamada "acoso potencial", que los moderadores pueden revisar para verificar su precisión.
La página de ayuda de Reddit dice que la función ahora está disponible en el escritorio y en las aplicaciones oficiales de Reddit, aunque no está claro cuándo se agregó la función. Le pedimos a Reddit más información, pero no hemos recibido respuesta.
Más como (A)IPO
Reddit, que está ocupada planificando su IPO, ha estado haciendo todo lo posible para conseguir el apoyo de los inversores antes de su salida a bolsa. inminente debut bursátil. Como ocurre con todo lo relacionado con la recaudación de efectivo en 2024, eso significa colocar la IA en cualquier lugar que pueda.
La popular plataforma de redes sociales firmado El mes pasado llegó a un acuerdo con una empresa de inteligencia artificial previamente desconocida para permitir que sus modelos absorbieran las conversaciones de los usuarios para entrenar productos, lo que le valió 60 millones de dólares por sus esfuerzos. Si bien esa cifra no se ha vinculado explícitamente a Google, tanto Reddit como Chocolate Factory anunciaron una asociación ampliada días después de que se conoció la noticia del acuerdo de IA.
Según Reddit, el acuerdo le dio a Google acceso a su API de datos y, a través de ella, "una forma eficiente y estructurada de acceder al vasto corpus de contenido existente en Reddit... incluido el soporte de nuevas formas de mostrar contenido de Reddit y la provisión de formas más eficientes de entrenar modelos".
Mientras tanto, Google dijo que Reddit obtendrá la capacidad de integrar Google IA de vértice “para mejorar la búsqueda y otras capacidades en la plataforma Reddit” como parte del acuerdo. Para quienes no están familiarizados, Vertex es la herramienta de Google para integrar las capacidades de Gemini en entornos empresariales.
Cómo los usuarios de Reddit – notoriamente revoltoso grupo: no está claro cómo reaccionará ante la noticia de que se está imponiendo IA a los moderadores. Los Redditors no necesariamente reaccionado bien a la oferta pública inicial planificada de la compañía, y algunos se refieren al plan como un plan de “bombeo y descarga” para enriquecer el liderazgo de Reddit a expensas del sitio.
Reddit ha experimentado el efecto de un retroceso antes, con miles de los subreddits del sitio se apagaron el año pasado en protesta por un plan para comenzar a cobrar a los desarrolladores por usar las API del sitio, matando efectivamente a muchos clientes externos de Reddit.
Reddit sabe que sus usuarios son un riesgo; incluso reveló sus preocupaciones en una SEC presentación el mes pasado con respecto a sus planes de IPO. Aparentemente una herramienta para ayudar a los moderadores, la adición de IA también podría verse como una amenaza sutil: protesten de nuevo y simplemente reemplazaremos a sus voluntarios con Gemini, al menos hasta que se capacite con suficientes datos de Reddit para comenzar a ponerse del lado de los manifestantes. ®
- Distribución de relaciones públicas y contenido potenciado por SEO. Consiga amplificado hoy.
- PlatoData.Network Vertical Generativo Ai. Empodérate. Accede Aquí.
- PlatoAiStream. Inteligencia Web3. Conocimiento amplificado. Accede Aquí.
- PlatoESG. Carbón, tecnología limpia, Energía, Ambiente, Solar, Gestión de residuos. Accede Aquí.
- PlatoSalud. Inteligencia en Biotecnología y Ensayos Clínicos. Accede Aquí.
- Fuente: https://go.theregister.com/feed/www.theregister.com/2024/03/07/reddit_introduces_aipowered_harassment_filter/
