Instructor vetado de por vida de los anuncios de Meta tras publicitar un curso de Python/Pandas
(lerner.co.il)- Reuven Lerner, instructor de tiempo completo de Python/Pandas, publicó en el pasado anuncios de sus cursos en Facebook; su cuenta publicitaria de Meta fue suspendida y, tras apelar, quedó vetado de por vida para anunciarse en las plataformas de Meta
- La única explicación de la suspensión fue que había infringido las reglas de publicidad de Meta, pero no se mostraba una explicación concreta de qué regla había violado
- Un contacto de LinkedIn le contó que hubo un caso en el que Meta confundió un anuncio de educación sobre Python con comercio de animales vivos, y el núcleo del problema sería que Python y Pandas son, respectivamente, un lenguaje de programación y una biblioteca de análisis de datos
- Tres conocidos que trabajaban o habían trabajado en Meta intentaron revisar el caso, pero recibieron la respuesta de que, como había pasado más de un año desde la suspensión, las pruebas habían desaparecido por la política de retención de datos de 180 días y no había forma de restaurar la cuenta
- Como parece que tanto la decisión original como la apelación fueron procesadas por IA, si en el futuro vuelve a anunciar sus cursos, terminará gastando en otros canales publicitarios como Google en lugar de Meta
Cómo un anuncio de cursos de Python/Pandas terminó en un veto permanente de Meta
- Reuven Lerner es instructor de tiempo completo de Python y Pandas: da clases presenciales en empresas de todo el mundo y también opera productos en línea
- Entre sus productos en línea se incluyen cursos en video y un boletín pago semanal de ejercicios de Pandas
- Tiene antecedentes dando clases en empresas como Apple y Cisco
- Hace algunos años publicó anuncios de algunos de sus productos en Facebook, pero no obtuvo grandes resultados, y después la cuenta publicitaria quedó prácticamente abandonada
- Hace aproximadamente un año volvió a entrar a la página de anuncios y vio un aviso de que la cuenta estaba suspendida por infringir las reglas de publicidad de Meta
- Hace unos meses revisó de nuevo la página de administración de anuncios, pero seguía sin poder publicar anuncios
- No se indicaba qué regla había infringido
- Afirmó que no había anunciado nada más que sus cursos de Python y Pandas
- Apeló mediante el botón “Click here to appeal”, pero unos 30 minutos después Meta le envió un correo diciendo que la infracción de políticas quedaba confirmada y que quedaba vetado de por vida para anunciarse en las plataformas de Meta
Posible confusión de Python con comercio de animales y fracaso de la recuperación
- Un contacto de LinkedIn le contó que también había tenido problemas al anunciar cursos de Python en las plataformas de Meta, y que Meta lo había considerado comercio de animales vivos
- Lerner cree que el sistema de IA de Meta interpretó Python y Pandas no como términos técnicos, sino como animales, y tomó la decisión de prohibirlo
- Python es un lenguaje de programación
- Pandas es una biblioteca de análisis de datos para Python
- También cree que la apelación no fue procesada por una persona sino por IA, que llegó a una decisión similar
- Tres conocidos que trabajaban o habían trabajado en Meta intentaron revisarlo, pero eso no llevó a una recuperación
- El primer conocido confirmó que, debido a la política de retención de datos de 180 días de Meta, las pruebas relacionadas habían desaparecido y, como había pasado más de un año desde la suspensión de la cuenta, no era posible restaurarla
- El segundo y el tercer conocido tampoco pudieron lograr avances
- Lerner considera que la IA de Meta cometió un gran error, y que es “bastante absurdo” que tanto la decisión original como la apelación hayan sido procesadas por IA
- Al no haber respondido dentro de cierto plazo, el veto quedó en un estado irreversible; señaló que, cuando vuelva a anunciarse en el futuro, Meta no recibirá su presupuesto publicitario y lo recibirán empresas como Google
1 comentarios
Comentarios de Hacker News
Es realmente frustrante cuando un proceso opaco como la IA toma decisiones.
Creé en Japón una Godo Kaisha, el equivalente a una LLC, y entonces Stripe rechazó mi negocio de suscripción de té verde https://tomotcha.com, que antes usaba sin problemas como trabajador independiente.
En el momento del rechazo, seguía usando mi cuenta de Stripe como trabajador independiente; si realmente hubiera sido una infracción de los términos, una persona la habría revisado y habría bloqueado primero esa cuenta, así que parece muy probable que la rechazara una IA.
Entiendo que las regulaciones financieras son estrictas y que a veces los procesadores de pagos no pueden explicar en detalle el motivo, pero al final, por ahora quedé atado a PayPal.
Como la composición de los productos está cambiando, quizá ahora cumpla con los términos de Stripe, y me pregunto si debería intentar abrir una cuenta de Stripe otra vez.
Por ejemplo, bastaría con decir algo como: “Un sistema automatizado de IA determinó que no nos conviene hacer negocios con usted. No podemos explicar los motivos porque podrían servir como pistas para evadir filtros de spam. Sin embargo, si paga USD 15, una persona lo revisará, y podrá presentar pruebas de ventas legales, información de la empresa registrada, etc. Aunque se rechace, no habrá reembolso, y la revisión humana no es una oportunidad para forzar los límites de los términos”.
Aunque expliquemos que no vendemos esketamina ni ningún otro medicamento, el resultado de hablar supuestamente con una persona de Stripe no cambia.
No dice en ninguna parte, ni siquiera en el sitio web, que vendamos medicamentos, y los pagos de pacientes se procesan con seguros, así que tampoco pasan por Stripe.
Las únicas respuestas que recibimos son “suspendimos la cuenta porque venden medicamentos” o “estamos investigando la información proporcionada”, y se ignoran las propuestas de reunirnos o presentar documentación.
Stripe es un servicio excelente, pero en el área de evaluación de clientes algo está funcionando muy mal dentro de la empresa.
No diría que mi experiencia con el soporte de Stripe haya sido buena, pero al final sí resolvieron el problema.
Stripe parece tener muchísimas dificultades con situaciones en las que un extranjero residente en Japón posee una empresa en el extranjero.
Llamé a mi operador telefónico desde un número común, pero la llamada se cortó por un problema del celular o de la antena; después de unos cinco intentos, una respuesta automática calificó eso como “abuso” y me bloqueó permanentemente el uso de la línea de soporte.
Para apelar tenía que usar la línea de soporte, y el robochat del sitio web también ya me tenía bloqueado.
Al final revisé su página de Facebook con la esperanza de que la administrara una persona y, por suerte, logré llegar a un agente humano que levantó el bloqueo.
Desde hace años no publico nada en Facebook; solo mantengo la cuenta como medio de respaldo para contactar a megacorporaciones tontas.
Lo más frustrante es que mienten descaradamente.
En realidad no revisan las cuentas, y el bloqueo tampoco es permanente.
En estas situaciones, en cuanto logras llegar a alguien con autoridad, levantan el bloqueo; así que al final todo es una cuestión de costos, eficiencia y conveniencia para Facebook/Meta.
Creo que para este problema hace falta una ley.
Es evidente que el mercado no tiene la fuerza para corregir este comportamiento, y nos guste o no, ser bloqueado de por vida de un servicio en línea prácticamente esencial puede ser devastador para una persona.
El problema es que todos se tapan los oídos y gritan “las big tech no son monopolios”, así que las leyes existentes no se aplican.
En un entorno realmente competitivo, podrías irte al negocio de al lado, que no te bloquea arbitrariamente y tiene personal real de atención al cliente.
¿No podrían cobrarle al usuario el costo de la revisión humana? ¿Cuánto puede costar el tiempo de una persona, unos USD 20?
Hay varios casos parecidos.
El problema de Scunthorpe es un ejemplo clásico: AOL no permitía que los usuarios configuraran su ciudad natal como Scunthorpe por la subcadena “cunt”.
Amazon bloqueó la venta de productos de Guns N' Roses por “guns”, y el nombre Miranda también llegó a tener problemas con transferencias bancarias por la subcadena “Iran”.
Algunos juegos mostraban el apodo Nasser como “N*er”, como si fuera la palabra con N, y Alexa todavía no puede pronunciar bien “pussycat”.
Un software de control parental filtraba “anal” en las URL y terminaba bloqueando incluso “analysis”; otro software borraba archivos si el nombre contenía “sex”, y así eliminaba hasta “sysext”.
En una escuela, ese bug dejó fuera de servicio todo el laboratorio de computación, y también tuvo parte de culpa que el encargado de TI actualizara todas las PC a Windows 10 de una sola vez sin comprobar la compatibilidad del software.
El político británico Dominic Cummings tampoco pudo crear una cuenta de Twitter.
Aun así, es un filtrado bastante precipitado.
Viéndolo de nuevo, el nombre resultante es peor; es una situación graciosa y triste a la vez.
Curiosamente, no podía encontrar un tema inocuo, pero si jugaba un poco cambiando los términos de búsqueda, era fácil encontrar pornografía que el filtro no detectaba.
Por supuesto, terminó bloqueando incluso los vinos de Borgoña que contenían “gun”.
Lo aplicaron tan de prisa que ni siquiera hicieron bien el filtro.
Intenté crear varias veces una cuenta de vendedor en Ebay, pero dos minutos después de crear y verificar la cuenta me bloqueaban por infringir los términos.
Para entonces ni siquiera había subido una foto de perfil ni había hecho nada con la cuenta.
El proceso posterior era igual: la apelación la atendía un bot que solo respondía “tenemos razón, usted infringió los términos, la cuenta está bloqueada y la decisión es definitiva”.
Extraño la época en que las organizaciones contrataban atención al cliente humana para clientes que potencialmente podían generarles mucho dinero.
Hoy en día, la publicidad o las ventas dependen muchas veces de unas pocas plataformas, y da miedo que un solo bot pueda matar mi negocio y mi empresa en cualquier momento.
¿Era residencial, móvil, de trabajo/oficina o de un centro de datos?
Por mi apellido, me bloquearon de por vida en los servicios de Facebook, excepto WhatsApp
Facebook cree que mi apellido es falso o demasiado polémico, y ni siquiera cambió de opinión cuando envié una copia de mi pasaporte
Hace unos 13 años, antes de que se aplicara la política de nombres reales, tenía una cuenta de Facebook, pero la cerré porque se sentía incómodo rechazar o aceptar solicitudes de amistad de gente de un pasado muy lejano
Ahora el único canal para obtener información importante sobre el edificio donde vivo es un grupo de Facebook, pero no puedo acceder, lo cual es un inconveniente
Mi esposa sí tiene acceso, así que no es un gran problema, pero para esquivar la política de nombres reales de Facebook parece que tendría que usar más bien un nombre falso
Aunque, si hago eso, probablemente sería difícil usar funciones relacionadas con anuncios de Facebook o de desarrolladores
La única forma en que pude hacerlo fue que me contrataran en Meta, entonces Facebook, y necesitaba una cuenta para el onboarding
En varios grupos centrados en fotografía en los que estoy, más de la mitad de las publicaciones vienen de personas con nombres falsos o a veces insultantes, y aunque sé que se las ha reportado varias veces, no pasa nada
Una mala política normalmente empeora cuando se aplica de forma inconsistente
Decir que “Meta no recibirá mi dinero, lo recibirá una empresa como Google, que al menos parece tener algunas personas en el departamento de anuncios” es, al final, una forma complicada de decir que harás negocios con la empresa que acepte tu negocio
Google también es famosa por aplicar bloqueos totalmente automatizados no solo al área de anuncios, sino a toda la cuenta
No lo había pensado antes, pero quizá explique por qué con el tiempo se siente que la calidad de los anuncios se degrada
Sé que Google también tiene muchos sistemas automatizados y que en el pasado mucha gente se ha frustrado con eso
Aun así, mis amigos que quedaron bloqueados por sistemas automatizados de Google finalmente pudieron encontrar a alguien capaz de corregir el problema
En Meta parece que no existe ese camino para los clientes, y ni siquiera 3 empleados que estaban de acuerdo en que la situación era absurda y podían responder por mí lograron revertir la decisión
El software solo funcionaba en Mac, pero Google decía que no permitía usar palabras como Apple o Mac porque eran marcas registradas
Las usaba como descripción contextual, como “software de conteo de widgets para Mac”, no como “software Apple original”
Apelé, pero me rechazaron y recuerdo que ya no había más opciones
Al final, prácticamente no había forma de anunciar software exclusivo para Mac
Tuve un problema parecido con Facebook/Meta y al final dejé de intentar comprar servicios de publicidad
Creo que la solución por ley es obligar a que 1) se informe al usuario cuando está tratando solo con un algoritmo, y 2) se le permita contactar a una persona dentro de un plazo definido
Ojalá al menos la UE cree pronto una ley así
También es un problema perder cantidades enormes de tiempo en interacciones con IA que no ofrecen compensación, pero lo que más me preocupa es que el “soporte al cliente” de IA no pueda hacer nada práctico, o al contrario, que tenga autoridad para hacer cambios importantes en configuración de usuario, facturación, etc.
Lo primero es una empresa engañando a sus clientes, y lo segundo puede tener consecuencias muy malas
Aunque no parece tener mucho efecto sobre Meta
Empresas como Meta, Google y Amazon, que dependen únicamente de IA para soporte al cliente, deberían recibir multas hasta quedar al borde de la quiebra
Si extrapolamos estos “incidentes desafortunados” a salud, finanzas, seguros, policía, educación, contratación empresarial, etc., te hace pensar hacia qué tipo de sociedad vamos bajo la premisa de que la automatización y la “IA” reducen costos y aumentan la eficiencia
No hay problema en usar tecnología para ayudar a las personas, en este caso empleados de Meta, a procesar información con más eficiencia
Pero sacar a las personas del proceso en asuntos que afectan a otros, en mayor o menor medida, es una dirección desastrosa
Casualmente, hoy también aparece en la portada del Financial Times un artículo que dice “Yann LeCun de Meta se opone a una regulación apresurada de la IA”
Pero si aun así se sigue sin regular la censura por IA, el problema se agranda
https://erinkissane.com/meta-in-myanmar-part-i-the-setup
Bienvenidos al futuro
Dentro de poco, esta clase de estupideces les pasará casi todos los días a la mayoría de las personas que tengan que interactuar por internet con empresas o instituciones
Se volverán cotidianos los procedimientos altamente automatizados y opacos, la lógica que bloquea de inmediato ante señales mínimas, y las rutas de revisión que nunca llegan a una persona
Porque los humanos que sobrevivieron a la automatización están demasiado ocupados alimentando al algoritmo como para hablar con clientes
Como la mayoría de la gente no tiene recursos para pelear con el gobierno, siempre han priorizado la cantidad sobre la calidad
La “IA” impulsada por la codicia y la ignorancia parece ser una etapa en el camino a arruinar y colapsar los servicios gubernamentales de varios países occidentales
Solo quienes tienen conocimiento para navegar el sistema, o están calificados para interactuar mediante el protocolo requerido, tienen esperanza de obtener un resultado
Las megacorporaciones ahora están bajando a ese nivel: imitan los hábitos de los poderes superiores, pero sin asumir responsabilidad
Nunca he visto que fallen los botones físicos en un auto de más de 15 años, salvo que sea un auto chocado
En cambio, una empresa premium que cobra precios premium atiende con personas reales
Será más lento, pero al menos hay margen para esperar empatía y soluciones no estándar
En casos así, la única solución podría ser establecer juicios de menor cuantía o procedimientos de arbitraje independiente no solo para Meta, sino para todo el grupo tipo FAANG.
Basta imaginar una situación en la que un empleado de una big tech tenga que decir ante un juez o árbitro: “El sistema bloqueó automáticamente al usuario, la apelación también fue rechazada automáticamente, y como se borraron todas las pruebas y los datos de soporte, no hay forma de saber por qué”.
Cualquier forma de arbitraje o revisión legal con una respuesta así llevaría de inmediato a que la gran empresa tecnológica pierda el caso.
En general apoyo el derecho de una empresa a elegir con quién hacer negocios, pero cuando en cierto punto una empresa ocupa una posición cuasimonopólica y se convierte en guardiana del acceso al mercado, esas decisiones necesitan una vía de apelación razonable.
Podrían ser relevantes obligaciones como la de “permitir que los usuarios comerciales accedan a los usuarios finales” de la Digital Markets Act de la UE, pero habrá que ver si el comportamiento de las empresas cambia en respuesta a leyes como esta.