Los riesgos del discurso del odio

mensajes-odio
JL Fuentes OsorioJuan Luis Fuentes Osorio (@juanelefuentes)
Profesor de Derecho Penal. Universidad de Jaén.

El odio es un concepto muy popular en el contexto criminológico. Se utiliza (inicialmente por la tradición anglosajona) como un elemento calificador de una clase de comportamientos desviados (agresiones, insultos, amenazas, negación de prestaciones, etc.) que tienen en común su posicionamiento hostil y discriminatorio contra ciertos colectivos. Los «delitos de odio» se refieren a agresiones clásicas agravadas por la motivación del sujeto activo y por la selección discriminatoria del sujeto pasivo. Ahora bien, tras el desarrollo de los medios de comunicación y, especialmente con la llegada de Internet, el delito de odio se ha concentrado en una de sus formas de comisión, en el «hate speech»: declaraciones intimidatorias, denigrantes, discriminatorias, hostiles contra estos colectivos.

mensajes-odio

En el primer momento la problemática de su sanción residió en determinar los motivos del odio, justificar que no se estaba sancionando al sujeto por su forma de ser (machista, xenófoba, etc.) sino por el desvalor adicional de su conducta y precisar si únicamente alcanzaba a aquellos colectivos caracterizados como «vulnerables». El discurso del odio, como subgrupo, asume esta discusión y añade el enfrentamiento con la libertad de expresión. Su tipificación implica una triple decisión: que ciertos colectivos requieren protección frente a declaraciones hostiles, que la limitación de la libertad de expresión es el mecanismo preventivo adecuado y que esta debe realizarse a través de medidas de naturaleza penal. La sanción penal del discurso del odio asume, por tanto, un doble riesgo: que se convierta en un mecanismo de resolución de conflictos de naturaleza política restringiendo opciones ideológicas del debate democrático y que pueda tener un efecto de desaliento (chilling effect) en los sujetos ante el miedo a una posible sanción desproporcionada, por cualquier manifestación. Estos riesgos se exacerban cuando el odio se convierte en un criterio de restricción de la libertad de expresión independientemente del motivo discriminatorio y del colectivo. Odio equivale al posicionamiento en contra de los valores morales mayoritarios.

Las consecuencias negativas que estos riesgos tendrían en una sociedad democrática, en la que la legitimidad de las decisiones se apoya en el debate y la crítica libre y en el pluralismo ideológico, demandan limitar la limitación. Es decir, no se debe responder penalmente frente a todas las manifestaciones hostiles, discriminatorias, provocativas, ofensivas, de mal gusto. Hay que buscar una opción eficiente: la menor restricción del derecho necesaria con base en un criterio que aporte seguridad jurídica.

Ahora bien, parece que se toma la dirección contraria cuando el odio supera una mera función descriptiva de una clase de delitos y se convierte en un criterio autorreferencial: es la ratio que nos permite crear e interpretar los delitos de odio e, incluso, el auténtico objeto concreto de tutela en torno al que se construye el concepto de daño que justifica la legislación penal. ¿Cómo se puede precisar la limitación penal de una libertad y conocer su alcance concreto cuando se utiliza el término odio (una emoción, un concepto impreciso a efectos penales) y al mismo tiempo en diferentes fases del proceso de determinación de la responsabilidad penal? ¿Evitar los riesgos señalados está en la mente del legislador o, al contrario, ha valorado positivamente la creación de una fórmula vacía que permite definir ad hoc que (cualquier y ninguna)  conducta es una forma de odio y que se debe (y o no se debe) resolver mediante la legislación penal del odio?

Publicado en Colaboradores Etiquetado con: , , , ,

La denominada «radicalización autodidacta» online y las controvertidas respuestas de la justicia penal

International-Treaty-Puts-Free-Internet-in-Jeopardy

Miguel Ángel Cano Paños
Profesor Titular del Departamento de Derecho Penal. Universidad de Granada.

La LO 2/2015, de 30 de marzo, de reforma del Código Penal en relación a los delitos de terrorismo, ha supuesto sin lugar a dudas un cambio estructural importante, tanto cuantitativo como cualitativo, de lo que hasta ahora se venía concibiendo como delincuencia terrorista en el ordenamiento jurídico español. Cambio que podría sintetizarse y definirse con las notas de Derecho preventivo, expansionista y simbólico. Un ejemplo de lo explicado viene constituido por el reformado art. 575 CP, disposición que castiga con una pena de prisión de dos a cinco años los casos de adiestramiento y adoctrinamiento pasivos (apartado 1), auto-radicalización (apartado 2) y traslado a un país extranjero (apartado 3), bien para participar en acciones terroristas, bien para integrarse en o colaborar con una organización o grupo de esa naturaleza. Con respecto al mencionado precepto, el objetivo de la reforma penal del año 2015 es combatir de la manera más efectiva posible el fenómeno de los terroristas individuales o –mal llamados– «lobos solitarios», es decir, aquellos sujetos que se radicalizan y llevan a cabo acciones terroristas sin estar (oficialmente) insertos en un entramado grupal. Para ello se pretende activar la respuesta punitiva del Estado en una fase temprana en lo temporal, interviniendo en aquellos casos en los que, por ejemplo, un sujeto recibe adoctrinamiento o adiestramiento por parte de terceras personas, o bien se auto-radicaliza por sí mismo mediante la consulta de materiales o el acaparamiento de contenidos de naturaleza terrorista, o bien se traslada a países en conflicto con el aparente objetivo de unirse a grupos yihadistas.

Una vez entrado en vigor el controvertido art. 575 CP, y ante el cariz que están adquiriendo los atentados terroristas cometidos en suelo europeo por parte de islamistas radicales, la mayoría de ellos jóvenes musulmanes pertenecientes a las Segundas y Terceras generaciones de inmigrantes asentadas en distintos países del Viejo Continente, era solo una cuestión de tiempo que la justicia española aplicase dicho precepto a un supuesto caso de (auto)radicalización islamista en territorio español. Y lo ha hecho por vez primera mediante la Sentencia de la Audiencia Nacional (SAN) núm. 39/2016, de 30 de noviembre, la cual condenó a un joven marroquí de 24 años, residente en la localidad guipuzcoana de Rentería, a un pena de dos años y seis meses de prisión e inhabilitación absoluta por un periodo de nueve años, al considerarle responsable de un delito de «autoadoctrinamiento con la finalidad terrorista» contemplado en el art. 575.2 apartado 3 CP.
Dejando de lado los más que evidentes problemas dogmático-penales y de Derecho constitucional que plantea el referido art. 575 CP, la SAN merece cuanto menos un juicio tremendamente negativo si se analiza con cierto detenimiento la valoración que los magistrados hicieron de las pruebas (documentales y testificales) presentadas durante la fase del juicio oral. Conviene señalar en este punto que la base fáctica que fundamentó la sentencia condenatoria venía constituía por la actividad exclusivamente online que el joven marroquí desarrolló durante varios meses en su cuenta personal de Facebook; actividad que se limitó a la publicación y –en algunos casos– comentario de una serie de vídeos, fotografías y dibujos los cuales distan mucho de ser considerados como genuinamente yihadistas.
Así, por ejemplo, el 21 de noviembre de 2015, una semana después de los terribles atentados terroristas cometidos en París, el joven marroquí publicó en su muro el siguiente dibujo:

Bild1

al cual añadió el siguiente comentario personal: «Me duele más los míos. Los míos nadie les llora. Los míos no son noticia. Los míos son los palestinos» (sic).
Posteriormente, el 9 de febrero de 2016, el acusado publicó un vídeo con el título (en árabe). «Nasheed [1]. No sobrevivo sin salvaros». En dicho vídeo podía escucharse una arenga llamando a la yihad sobre imágenes de muyahidines. En un momento de la nasheed se proyectaba el siguiente dibujo:

Bild2

Para los magistrados de la AN, la «bandera negra con la sahada [2]», constituía un «símbolo de las organizaciones terroristas islamistas radicales».

Y es que los argumentos que adopta el Tribunal en la fundamentación jurídica para constatar que los documentos adquiridos, publicados o almacenados por el joven marroquí en su teléfono móvil a través de su cuenta de Facebook [3] estaban dirigidos o bien, por su contenido, resultaban idóneos para incitar a la incorporación a una organización o grupo terrorista o a colaborar con cualquiera de ellos o en sus fines –requisitos que establece ex lege el art. 575 CP– resultan tremendamente criticables. En este sentido, el Tribunal utiliza una serie de expresiones para cimentar jurídicamente la existencia de un delito de auto-adoctrinamiento yihadista y, en buena lógica, acreditar el cumplimiento del elemento del tipo; expresiones que, no cabe duda, crean altas dosis de inseguridad jurídica. Efectivamente, cuando la sentencia señala entre otras cosas que «basta ver las imágenes», que «los mensajes de los vídeos (…) no precisan siquiera de la comprensión de cuanto en ellos se recita», que «basta oír el tono de soflama de la voz de los discursos», «el fluir de la música salmódica» o «la técnica de depurado adoctrinamiento», en ese caso no se está sino introduciendo un modo de pensamiento penal que, ciertamente, debería estar definitivamente proscrito en un Estado social y democrático de Derecho: el denominado Derecho penal de autor, donde no se califican y penalizan hechos delictivos, sino más bien formas de ser y de comportarse por parte de un determinado sujeto, o bien percepciones subjetivas que uno pueda tener con respecto a un sujeto y/o una ideología.
Y es que durante toda la actividad que el joven marroquí documentó en su cuenta de Facebook [3], no existe un solo video, fotografía o alegato que hiciese una apología, directa o indirecta, a la violencia terrorista, bien ensalzando las bondades de organizaciones como EI, bien humillando o menospreciando a las víctimas de las acciones terroristas. Más bien al contrario, se trataba de manifestaciones de opinión que sin duda no tienen por qué ser compartidas, pero que, conviene reiterar, no constituían una incitación directa o indirecta a la comisión de delitos de terrorismo, no resultando tampoco «idóneas» para incitar a la incorporación a una organización o grupo terrorista, o bien para colaborar con cualquiera de ellos o en sus fines, tal y como explícitamente se regula en el art. 575 CP.

A partir de lo explicado en los párrafos anteriores, puede afirmarse sin miedo a equivocarse que el Tribunal encargado de imponer una pena de prisión al acusado adivinó una serie de «intenciones maliciosas» en la persona del joven marroquí, considerando como típicamente de contenido yihadista un conjunto de publicaciones que, en todo caso, deberían estar respaldadas por la libertad ideológica y de expresión. Justo lo contrario es lo que decidió la AN en su sentencia, aplicando el discutido delito de adoctrinamiento autodidacta previsto en el art. 575 CP y llevando a prisión a un sujeto de 24 años, sin antecedentes penales. Está por ver qué es lo que sucederá cuando ese joven cumpla su condena.

Notas del autor
[1] El concepto «nasheed» hace referencia a un canto a capella muy popular dentro del mundo islámico, y que organizaciones terroristas como Estado Islámico han hecho suyo para llevar a cabo su labor propagandística.
[2] La «shahada» o profesión de fe islámica, es la declaración de fe en un único Dios (Allāh en árabe) de acuerdo a la fe islámica y las enseñanzas de Mahoma. Su recitación («No hay más Dios que Allah y Mahoma es su profeta») se considera uno de los cinco pilares del Islam, según la concepción suní.
[3]A la cual se ha podido tener acceso a la hora de realizar el presente comentario debido a que, sorpresivamente (o no), dicha cuenta de usuario de Facebook no fue cerrada en su momento por los gestores de la mencionada red social.
Publicado en Noticias

Reflexiones acerca del alcance de Internet: incitación a la violencia y discurso del odio

hate-speech-online

Marta María Aguilar Cárceles

Profesor Ayudante Doctor de Derecho Penal y Criminología.

Facultad de Derecho. Universidad de Murcia

¿Conocemos el alcance de nuestras conductas a través de Internet? ¿Somos conscientes de la difusión de nuestros mensajes a través de las redes sociales? ¿Qué sucede cuando nuestros comentarios trascienden el mundo físico y navegan a través del ciberespacio? ¿Y si dichos comentarios suponen incitar a la violencia? ¿Es discurso del odio en Internet? ¿Quiénes son los colectivos de mayor vulnerabilidad en relación a este tipo de ilícitos?

La cuestión relativa a la incitación a la violencia y discurso del odio en Internet puede y debe ser debatida desde enfoques bien distintos, apostando en todo caso por una acción integral que sea capaz, en última instancia, de prevenir y combatir conductas de mayor impacto social, como pudiera ser el caso de la radicalización violenta y extremismo. En este sentido, diversos serían los planteamientos que han de considerarse para dar una respuesta global a dicha problemática, comenzando por cuestionarse qué medios o mecanismos utilizan las redes sociales para frenar dichas expresiones de odio, y continuando con la valoración de los aspectos psicológicos implicados y efectos jurídicos subsecuentes.

El auge de Internet en nuestros días es una cuestión indiscutible, no siendo así los debates emergentes en torno al control, permisibilidad, y propagación del contenido de nuestros mensajes e imágenes a través de dicho medio. Desde el momento en que un individuo escribe un texto en una red social, hasta el momento en que se cuelga una imagen personal, se podría entender que pierde cualquier tipo de control sobre ello, incluso cuando se trate de una red de conectividad privada. Nos pensamos que estamos seguros pero, desde el momento en que se consiente de manera implícita la realización de ciertas acciones en Internet, se pierde el control sobre los posibles efectos o consecuencias. Y ello es así en un doble sentido, tanto en el caso de poder ser considerados posteriormente víctimas de un delito (p.ej. que usen nuestra imagen para un fin determinado), como por entender que la envergadura de nuestro comportamiento en Internet asume el calificativo de permanente, siendo prácticamente imposible “borrar el pasado”. Es por ello que determinados comentarios injuriosos o de oído en Internet, incluso aquellos otros que incitan en la violencia, difícilmente podrán ser negados, siendo más complicado el determinar quién o quiénes lo hubieron incitado.

Dicha característica de permanencia en la red se relaciona innegablemente con otro calificativo de Internet, su rápida propagación. Así pues, sobre la advertencia de “cuidar los mensajes que se envían sobre las redes sociales”, un reciente experimento realizado por una profesora de un IES madrileño, pone de manifiesto como Nico (“el muñeco viral”), ha sido capaz de circular por todo el mundo a través de Twitter, Facebook, Instagram, e incluso WhatsApp, en menos de 24h.

Hasta este momento se ha puesto de manifiesto la necesidad de una mayor concienciación social respecto al fenómeno de Internet y la necesaria precaución en su empleo, principalmente en relación a la figura de la víctima, sin embargo, en las siguientes líneas, se centra la cuestión en quienes, a partir de la realización de una conducta  ofensiva o reprochable penalmente, son capaces de agredir a una colectividad de individuos mediante la incitación (p.ej. troll), o propagación, de mensajes “violentos o de odio” a través de Internet, principalmente a través de las redes sociales.

En las últimas décadas, principalmente “gracias” a la expansión de las nuevas tecnologías, está adquiriendo gran relevancia el desarrollo de comportamientos xenófobos y racistas, precisamente en el momento en que la agresividad se llena de emoción y voluntad y se manifiesta conducta violenta. Efectivamente el problema racial ha dependido siempre del porcentaje poblacional en que se encuentre dicha minoría pero, ¿qué sucede en el mundo virtual?

Como se pone de manifiesto en la Constitución Española, la transmisión de ideas en sus diferentes manifestaciones no supone un derecho absoluto, pues se situarán al margen del derecho de protección la difusión de frases o expresiones con ideas u opiniones que pudieran vulnerar, o tuvieran el ánimo de menospreciar y discriminar, a grupos o individuos en razón de cualquier condición social, étnica, o personal, entre otras circunstancias. Conforme a ello, el espacio cibernético parece crear en el sujeto dicha idea de libertad absoluta, de ausencia de límites, de falta de control, pero lo cierto es que se trata de una situación subjetiva que pudiera ser creada por el sujeto para así justificar su acción -bajo la absurda paradoja de que “nadie lo está viendo”-. Esta última afirmación rompería los esquemas tradicionales en la comprensión del crimen, debiendo de incluir en dicho entendimiento la cibercriminalidad y el ciberespacio.

En relación a los crímenes de odio, el Informe RAXEN en relación al “Racismo, Xenofobia, Antisemitismo, Islamofobia, Neofascismo, Homofobia y otras manifestaciones relacionadas de intolerancia a través de los hechos”, pone de relieve como el ciberodio crece y se expande por Internet, medio que viene a ser usado de  manera habitual por ciertos grupos para atentar directa o indirectamente contra determinados colectivos. Así pues, afirma que “la conexión entre el discurso de la intolerancia en Internet y los crímenes de odio es una evidencia”, indicando que incluso el clima creado dentro de los propios foros legitima la violencia hacia los colectivos perjudicados, posibilitando de este modo el denominado “refugio de intolerancia extremista”. Así por ejemplo, advierte como determinadas redes sociales soportan gran cantidad de grupos y páginas de odio insertadas (p.ej. “Contra la invasión inmigrante”, “Hay que legalizar la violación”), favoreciendo de esta forma el ataque cibernético y la propagación de dichas ideas hacia colectivos especialmente vulnerables.

Pese a lo dicho anteriormente, desde el punto de vista jurídico, y a tenor de los preceptos relativos a la tutela de los derechos fundamentales y de las libertades públicas garantizadas por la Constitución, lo cierto es que el artículo 510 del Código Penal invoca más conductas que aquellas relativas a las personas por razón de su raza o nación, pues recoge expresamente todas aquellas conductas que, desgraciadamente, siguen poniendo de manifiesto la existencia de desigualdades sociales varias (p.ej. orientación sexual, discapacidad, enfermedad, género, etc.). Un ejemplo de “fomentar, promover o incitar directa o indirectamente al odio, hostilidad, discriminación o violencia contra un grupo, o parte del mismo” se puede apreciar en la Sentencia del Juzgado de lo Penal de Palma de Mallorca núm.419/2012 [ARP/2012/1400], por el hecho de exhibirse en una web determinada el vídeo “20 maneras de matar a una mujer” (“The Naked Woman”).

Se puede apreciar como las formas tradicionales de actuación se han adaptado a la era moderna en cuanto a la realización del iter criminis se refiere, así como a los beneficios que reporta la actuación a través de dichos medios (p.ej. aparente anonimato, posibilidad de actuar contra una pluralidad de víctimas al mismo tiempo, etc.), pero lo cierto es que cada vez existe un mayor compromiso social y gubernativo, nacional e internacional, para erradicar, o cuanto menos disminuir, la incidencia de las citadas conductas a través de Internet.

Foto: https://www.holocaustremembrance.com/media-room/news-archive/fighting-online-hate-speech

Publicado en Noticias

CRÍMINA contra la radicalización a través de PERICLES

En el nuevo marco de innovación e investigación europeo, Horizonte 2020, la Unión Europea ha plasmado su enorme preocupación por investigar las grandes cuestiones que afectan a los ciudadanos comunitarios, centrándose en la resolución de problemas concretos de áreas esenciales de la vida diaria. Este sería, por ejemplo, el caso de la seguridad ciudadana en general y de la lucha contra las diferentes ideologías radicales y violentas en particular, capaces de poner en peligro la cultura europea de la libertad y la justicia.

PERICLES

Por ello, el objetivo general de PERICLES (Policy recommendation and improved communication tools fo law enforcement and security agencies preventing violent radicalisation) es desarrollar un enfoque integral para prevenir y combatir la radicalización violenta y el extremismo, centrándose especialmente en los procesos de radicalización de individuos. Para alcanzar sus objetivos, PERICLES considerará ideologías violentas religiosas, extremo-derechas y extremoizquierdas, haciendo especial hincapié en los riesgos relacionados con la propaganda violenta consumida a través de entornos digitales. Asimismo, ofrecerá avanzadas técnicas de contra propaganda específicas para cada grupo de objetivos. Además, con este proyecto se reforzará la cooperación entre las autoridades competentes en el tratamiento y prevención de la radicalización violenta. Por lo tanto, la estrategia integral de prevención propuesta desde PERICLES se dirigirá tanto a las agencias de seguridad y justicia, como a técnicos penitenciarios, trabajadores sociales, formadores e incluso familiares de las personas afectadas.

Coordinado por el Criminological Research Institute of Lower Saxony, PERICLES es un proyecto de 36 meses de duración y 3 millones de euros que actualmente está en proceso de firma y que dará comienzo en mayo de 2017. Conformado por varias multinacionales, universidades del mayor prestigio y agencias públicas de seguridad, finalmente 15 socios procedentes de más de 9 países europeos estarán implicados.

El centro CRÍMINA para el estudio y prevención de la delincuencia de la Universidad Miguel Hernández de Elchetiene una importante participación de doble naturaleza en PERICLES. En primer lugar, CRÍMINA, a partir de los principales resultados obtenidos en su proyecto CiberHache, desarrollará en PERICLES una herramienta de detección del discurso violento y radical en el ciberespacio. Asimismo, CRÍMINA analizará a lo largo de varios informes la compleja dimensión legislativa en materia de lucha contra la radicalización en la Unión Europea.

C34yRGoXAAAUqs8

Publicado en Noticias

«Twitter planta cara a los “trolls” mediante un nuevo sistema de filtros», o al menos, lo intenta.

Imagen extraída de http://www.zdnet.com/i/story/61/44/001540/eviltwitter.png

Twitter está siendo, sin lugar a duda, una de las plataformas sociales online que más quebraderos de cabeza está suponiendo en los últimos años respecto al contenido que en ella se publica. La proliferación de trolls o haters que se resguardan en el anonimato para cebarse con alguien es un problema que ha traído consigo una larga cola de consecuencias difíciles de afrontar para los gestores de esta red de microblogging.

De esta forma, Twitter ha tratado de poner “solución” al problema, o al menos intentarlo, implantando un sistema de filtros que permite al usuario, de un lado, elegir ver únicamente las menciones de usuarios que sigue, lo que “silencia” el ciberacoso, y de otro lado, el llamado “filtro de calidad” que decide automáticamente, sin la decisión del usuario, que aparece o deja de aparecer en su timeline basándose en elementos como la relevancia o el origen de la cuenta.

Esto plantea algunas vacilaciones. En primer lugar, la opción de elegir qué menciones ve el usuario abre la puerta a la cuestión de si ese troll, hater, o simplemente cualquier tuitero que mencione al usuario pero que no sea seguido por este, ¿provoca que el mensaje mencionado sea solo silenciado para que no pueda verlo, lo que conllevaría que el tuit es publicado, pero sin la opción de que el usuario pueda verlo? ¿O más bien supone que ese tuit nunca llega a publicarse? Cabe entender que el tuit será publicado, pero sin la notificación al usuario mencionado de que este mensaje ha sido lanzado. Esto permite al usuario evitar saber que le están acosando o troleando, pero no elimina ese acoso del ciberespacio. Imaginemos, por un momento, que el acoso que se ejerce hacia una persona se lleva a cabo mediante el uso de una etiqueta o hashtag, y que éste se convierte en Trending Topic (TT). Esto no evitaría que el usuario que está siendo acosado sea consciente de ello, como ha sucedido en innumerables casos de acoso hacia particulares, en los que el acoso se manifiesta con una etiqueta que se convierte en tendencia. Uno de los casos más recientes ha sido el de un famoso youtuber, DalasReview, quien ha sido acusado de acosar a menores y ha sido perseguido por los tuiteros a través de hashtags como #DalasDeEstaNoTeEscapas o #DalasNadieTeCree. Al margen de esto, esta nueva herramienta que “silencia” el acoso no lo elimina, sino que evita que el acosado sea consciente de tal situación, lo que al menos, para la criminología, resulta una dudosa y deficiente solución del problema.

En segundo lugar, los “filtros de calidad”, que según Twitter, se basan en el origen de la cuenta y el comportamiento de la misma para eliminar el contenido de “menor calidad”, dejan al usuario elegir si quieren activarlo o no, pero queda fuera del control del mismo el tipo de tuits que el filtro limita. De este modo, la plataforma asegura que esta herramienta “no filtra el contenido de las personas que sigues o de las cuentas con las que interactuaste recientemente” Aunque esta medida, más bien, parece ser una forma de evitar mensajes duplicados o automatizados.

En definitiva, es evidente que los trolls y haters están suponiendo para la red social un auténtico problema que está provocando tomar medidas que, hasta el momento, no parecen resultar demasiado efectivas. Como ya aseguró la compañía para referirse a otro de los grandes inconvenientes a los que se enfrenta – el enaltecimiento al terrorismo-, no existe ningún “algoritmo mágico” que sea capaz de identificar contenidos inapropiados.

Nuria Rodríguez

Publicado en Noticias Etiquetado con: , , , ,