Tecnologías & Salud

Temas éticos relacionados a la inteligencia artificial

Pablo Brenner (55) ha hecho mucha cosa, siempre en el campo de la innovación tecnológica. 

Quien es reconocido como uno de los padres nada más ni nada menos que del Wifi- la conexión inalámbrica que hace tanto es parte esencial de nuestras vidas.  Continúa buscando siempre nuevas ideas que lo desafíen. Ahora está al frente de “Collokia”, una empresa de inteligencia artificial, un mundo que ha avanzado a pasos agigantados  en los últimos años y que Pablo está seguro seguirá sorprendiéndonos. Asimismo se desempeña como Chief Innovation Officer en Overactive.

Esta entrevista es más sobre los dilemas que supone este campo apasionante de la inteligencia artificial, que sobre su propia empresa.  Y el diálogo mantenido tiempo atrás en Montevideo, nos recordó claramente la primera entrevista que hicimos a Pablo en el 2013, en Israel, cuando él estaba participando en la delegación empresarial uruguaya , en la que habló de los valores humanos que deben existir para que se pueda alcanzar realmente el éxito.

También aquí hablamos de valores, de ética y cultura, como factores que incidirán en los límites que el ser humano  y la sociedad pongan-si así lo deciden y si pueden- al desarrollo y aplicación de la inteligencia artificial.

 Pablo se fue a los 20 años a Israel a estudiar en el Technion Ingeniería en Computadoras, una  mezcla de electrónica y computación, especializándose en redes. En aquella época recién se empezaba a conectar las computadoras.A través de un aviso en el diario empezó a trabajar en una empresa llamada Fibronics, donde llegó a ocupar importantes cargos de dirección. En aquel momento era una de las más importantes en tecnología en Israel. Lo recuerda como una de las mejores cosas que le pasaron en su trayectoria profesional, por todo lo que pudo aprender en ese marco.

Luego creó junto a un socio su propia empresa y en  1993 el proyecto derivó en el nacimiento de BreezeCOM, una firma que luego , con el nombre de Alvarion, se transformó en líder mundial en conexiones inalámbricas a Internet. Allí se desarrollaron los primeros productos Wifi del mercado. Fue de hecho uno de los inventores del wifi, aunque modestamente, él se limita a decir que participó en el comité que definió el standart.

Al retornar a Uruguay,  continuó con su espíritu emprendedor y fundó Prospéritas Capital Partners,2 la primera administradora de fondos de capital de riesgo de Uruguay, orientada a respaldar proyectos de carácter tecnológico.

Pablo volvió a Uruguay con su esposa y sus hijas en 1997 y continuó con su espíritu emprendedor. Después de armar la operación de Alvarion en Latinoamérica, creó con unos socios Prosperitas, el primer fondo de Capital de Riesgo de Uruguay, que hoy recuerda como “una iniciativa muy interesante, pero posiblemente antes de su tiempo”. La orientación era respaldas proyectos de carácter tecnológico.

Luego se sumó a Globant, como Country Manager  en Uruguay y Vicepresidente de Innovación del grupo. Fue  presidente  de Endeavor Uruguay, una organización que estimula el emprendedurismo.

 P: Pablo, has fundado, dirigido , creado, distintas empresas exitosas. De fondo, lo central siempre es el espíritu de  hacer algo nuevo. Y por cierto que significa enamorarse de una idea, no es solamente  tener éxito económico ¿verdad?

R:  Claro, generalmente, es verdad, el emprendedor no lo hace solo por dinero, hay maneras menos trabajosas de hacer dinero. Lo otro que tiene es que los emprendimientos tienen sus altos y bajos, siempre tienen épocas buenas y épocas peores, y si el único motivante es el dinero, entonces lo más probable es que en la época mala termines abandonando. Todos los emprendimientos que conozco, hasta los exitosos, tuvieron épocas duras en algún momento de los primeros años. Cuando mirás la historia de Uber, de Facebook y demás, no todo fue jardín de rosas. Es evidente que para llevarlo a cabo tiene que haber una motivación más grande que el dinero. Además, lo que tiene también es que el emprendedor solo no hace nada, tiene que juntar un equipo, y para eso uno no puede decir solo “Vengan, súmense que vamos a ganar plata”, con más razón esos te van a abandonar enseguida cuando las cosas se pongan difíciles, para juntar un buen equipo tenés que venderles también una idea que los convenza a  que sean partícipes de ese sueño.

P: ¿Cuál fue tu sueño, qué es lo que a vos te empujó y te permitió llegar a donde estás ahora?

R: Generalmente a mí un poco me gusta crear cosas, productos o empresas. O sea me gusta la parte misma  de crear. Por eso siempre trato de unirme a empresas que están empezando o empezar cosas o proyectos nuevos. Me parece que es más estimulante. Capaz que hay gente a la que le gusta más la tranquilidad de saber que ya funcionó y mantenerlo, pero a mí me gusta la adrenalina de construir.

LA RELATIVIDAD DE LA “CIENCIA FICCIÓN”

P: Inteligencia artificial…debo confesar que todas esas cosas me siguen pareciendo ciencia ficción.

R: Una vuelta escuché a alguien que decía: vivimos cambiándole la definición a la inteligencia artificial. Siempre definimos como inteligencia artificial lo que nos parece ciencia ficción. Pero  hay cosas que hoy ya las ves como naturales, como puede ser que le hablás al celular y te entiende. Eso hace diez años era inimaginable. Antes eso era a lo que llamábamos inteligencia artificial. Hoy lo damos por obvio. O por ejemplo el piloto automático de un avión… eso tiene un montón de inteligencia artificial, lo que pasa es que como lo usamos hace tanto tiempo ya no nos parece ciencia ficción.

 P: ¿Y qué sí nos parece ciencia ficción?

R: Sí nos parece ciencia ficción que un auto se maneje solo. O el reconocimiento de imágenes, que también tiene un montón de inteligencia artificial y avanzó muchísimo en estos últimos años.  Siempre le vamos cambiando la definición a la inteligencia artificial, le hacemos trampa, siempre la pateamos para adelante.

En Punta Tech 2018, Pablo Brenner y Aharon Aharon, que encabeza la Autoridad de Innovación de Israel, invitado especialmente al evento.  Foto: Rossina Abril.

NI LOS SUPERSÓNICOS LO IMAGINABAN

 

P: ¿Qué es lo que a vos te sigue no sé si decir admirando, pero sí quizás sorprendiendo, de ese mundo de la inteligencia artificial?

R: El tema de los autos autónomos, que en realidad está a la vuelta de la esquina, la tecnología ya existe. Ni siquiera te lo imaginabas cuando veías los Supersónicos. Nos imaginábamos autos voladores, pero no que se manejaran solos. Y no estamos tan lejos de llegar a lo que se denomina el nivel cinco de autos autónomos. Esos ni siquiera van a tener volante.

P: ¿Cómo se puede concebir eso? ¿Cómo funcionan?

R: Se manejan solos… Con la inteligencia artificial son menos peligrosos que la gente. Eso ya existe, Google ha hecho millones de kilómetros, Tesla ya lo incorpora en sus  autos. Yo todavía no manejé ninguno, pero gente que conozco que manejó un Tesla con piloto automático dice que es muy difícil acostumbrarte a que el tipo va a doblar solo y vos no tenés que hacer nada.

P: O sea que solamente le decís de antemano adónde querés llegar.

R: Exacto. Eso ya existe. Todavía está un poco lento el tema de las regulaciones, como por ejemplo, si hay un accidente culpa de quién es. Pero estadísticamente esos autos tienen muchos menos accidentes que los autos conducidos por humanos.

 

P: ¿Cómo se mide eso cuando todavía no están funcionando en las calles?

R: Ya hay prototipos, Google hace años que tiene autos de esos en las calles…No se venden al público todavía. Bueno, en realidad el Tesla sí se vende al público .Por ejemplo fue muy comentado cuando tuvieron un accidente en el que murió una persona. Ellos lo que te dicen es que el auto se maneja solo pero vos tenés que estar igual sentado al volante y atento, por las dudas. Este tipo venía distraído, creo que mirando una película, y se cruzó  un camión que era todo blanco, el auto no lo reconoció (la tecnología que usaba Tesla era con cámaras, otros usan una especie de  radar), chocó con el camión y el hombre se murió. Eso le hizo mucha mala propaganda, pero fue un solo caso en miles que ya están dando vueltas. Por otro lado, hay otro caso que salió unas semanas después, una persona que se dio cuenta de que estaba teniendo un infarto y  antes de desmayarse le dijo al auto que lo llevara al hospital y el auto lo llevó solo. Tenés uno y otro caso.

P: Increíble. Pero me pregunto…más allá de un caso como ese en el que la persona no puede  manejar porque se siente mal, ¿para qué se puede querer estar adentro de un auto sin manejarlo?

R: Fijate que por ejemplo eso daría muchísima autonomía a la gente con cierta discapacidad que los limita. Tendrían muchísima  autonomía no depender de gente que los lleve. Gente con problemas de visión o auditivos , gente con problemas de movilidad o simplemente personas de edad avanzada, o gente que sale de una fiesta después de haber bebido.

P: Interesante…no lo había pensado.

R: Decían que entre los primeros estados de Estados Unidos en legalizar los autos autónomos iba a estar Nevada, por Las Vegas, porque iba a ser mucho más seguro. Hay autos de BMW y Mercedes que ya tienen esa función, que si perdés el conocimiento el auto se sigue manejando hasta que se estaciona y pide ayuda. Hay un montón de casos en los que su utilidad es clara.

P: Pero me imagino que tiene que ser considerado positivo no sólo tomando en cuenta las situaciones especiales.

R: Exacto. Uno de los grandes temas es que hoy se gasta muchísimo combustible buscando estacionamiento y eso genera mucha polución; con un auto autónomo vos te bajás donde quieras, el auto se va a ir hasta donde haya estacionamiento y después te va a pasar a buscar.  Esa es una de las teorías. Existe la teoría contraria, que dice que si el auto de verdad se va a poder manejar solo, lo que va a pasar es que no vas a precisar sentarte al volante, entonces vas a querer tener una televisión o un escritorio en el auto, que va a terminar siendo mucho más grande porque vas a querer más comodidades y no vas a tener problema en vivir más lejos, porque vas a aprovechar mejor ese tiempo de traslado. Entonces unos dicen que va a ahorrar en combustible y polución, y otros que va a ser peor porque la gente va a usar autos más grandes y a vivir más lejos de las ciudades. No estamos tan lejos, se calcula que para 2030, para lo que no falta tanto, ya van a ser populares.

 P: Realmente no falta nada…

R: Se sabe que un chico que nazca hoy no va a tener que sacar libreta para conducir, va a ser ridículo que maneje. Eso está avanzando muchísimo, de verdad, y tiene una cantidad de inteligencia artificial…

 CONCIENCIA Y EMOCIONES ¿SUSTITUIBLES?

P: ¿Hay algo de la condición humana que te parece que la tecnología no puede suplantar bajo ningún concepto?

R: Bueno, suponemos que la conciencia, pero por ejemplo el escritor israelí Yuval Harari dice que a la larga la condición humana no son más que reacciones y algoritmos bioquímicos, que todo lo que sentimos en realidad no son más que el efecto de hormonas y reacciones bioquímicas. Según él, si son algoritmos bioquímicos, los vamos a poder reemplazar por algoritmos computacionales.

 

P: Me parece un poco exagerado llevarlo a tal punto…Aparte…eso tiene que estar programado de antemano, y en el ser humano no lo está.

R: En la inteligencia artificial hoy se está trabajando en lo que se llama deep learning, que tampoco está programado de antemano. Ya hay robots que aprenden… Un primer hito de la inteligencia artificial fue cuando una computadora le ganó a Gary Kaspárov jugando al ajedrez. Este año le ganó en el juego Go, que tiene millones de probabilidades diferentes, más que el ajedrez, a la larga. El sistema del ajedrez estaba programado para chequear todas las jugadas posibles hacia adelante para tomar una decisión, en el Go no existe eso, y el sistema que pusieron aprendió mirando partidos de Go, nadie le enseñó cómo se juega.

P : Sinceramente, da miedo. 

R: Sí, un poco de miedo da. Lo mismo está pasando con parte de la tecnología de los autos autónomos, vos no podés enseñar todos los casos, tienen que ir aprendiendo solos, los van entrenando con autos conducidos. En teoría, tarde o temprano vamos a llegar a que todo ese aprendizaje solo lo va a poder hacer la inteligencia artificial. La gran discusión está en la parte de las emociones, que Yuval Harari lo ataca muy bien en su último libro, donde plantea que los cuentos de ciencia ficción son que el hombre arma un robot, le enseña un montón de cosas y en determinado momento empieza a hacer cosas malas, pero los hombres, con nuestra consciencia y con las emociones termina ganando. Él lo que dice es que lo que nosotros llamamos hoy consciencia se lo vamos a poder poner a los robots.

P: ¿A vos te parece que tiene razón?

R: No sé. Hay discusiones a nivel de Bill Gates. Mark Zuckerberg, de Facebook, y Elon Musk, de Tesla, discuten si tenemos que empezar a controlar más la inteligencia artificial o no y si puede o no ser peligrosa para el ser humano. La discusión que cuando nosotros éramos jóvenes se hacía sobre la energía atómica ahora es sobre la inteligencia artificial, más tirando a si se puede volver en contra nuestra. Es una discusión que está planteada al más alto nivel y las respuestas no son claras.

 

Con el escritor israelí Yuval Harari (izquierda) y su manager Itzik Yahav, hace pocos años, en Puntatech, evento al que Pablo invitó a Harari como orador central.

LÍMITES ÉTICOS

P : ¿No te parece que no hay límite en cuanto al potencial de desarrollo de la inteligencia artificial? ¿Realmente también se podrá llegar a las emociones?

R: Yo creo que sí. Asusta y no digo que sea bueno…Tampoco es mañana.  Pero tarde o temprano va a ser posible.

P: Creo que más allá de si va a ser posible y cuándo, hay de por medio muchos temas éticos que genera dudas.

R: Por supuesto. Esto  genera un montón de interrogantes filosóficas. En verdad tenemos este tipo de interrogantes mucho antes, por ejemplo, en cuestiones que son más del día a día. Un caso que se está debatiendo mucho y que se usa como ejemplo: si un auto autónomo llega a una situación en la que es inevitable el choque y  las opciones son girar a la izquierda y matar al conductor o girar a la derecha y atropellar a dos mujeres y un niño, ¿cómo lo vamos a programar? Hoy en un auto manejado por una persona vos decís: el tipo hizo lo que pudo, no podés evaluar qué hizo una persona en un caso así, hace lo que puede, pero acá va a estar programado para una cosa o la otra. Existirán personas que prefieran comprar un auto que siempre proteja al conductor. Otra cosa que dicen es que el auto lo que tiene que hacer es evaluar el daño menor, calcular la edad del peatón y la del conductor para decidir a quién conviene atropellar… Hay un montón de discusiones éticas por ese lado que son bastante inmediatas. Tarde o temprano esa discusión va a estar.

P: Cuando el planteo es el de un dilema ético el tema es que no me parece que las respuestas puedan ser categóricas y absolutas. La evaluación es algo cultural.

R: Claro, es  algo totalmente cultural, y el mundo se globalizó. Quizás haya países y culturas que pongan cierta preferencia ética y otros que tengan otra escala de valores.

  1. ¿Y cómo ves el límite ético? No solo en el tema del auto autónomo sino en el desarrollo de la inteligencia artificial.

R: Yo creo que a la larga la ética es la misma que tenemos hoy como humanos, con o sin la inteligencia artificial. Uno tiene una escala de valores y actúa acorde a ella. A la larga, la inteligencia artificial tendría que comportarse según la misma escala. Si uno lo mira, en la mayoría de los casos va a ser mejor, porque va a tomar mejores decisiones que los humanos, que a veces no sabemos tomar la decisión correcta.

P: Y volvamos a la ética…

R: Volviendo a los temas éticos, que también Harari menciona, un tema importante es el de la salud. Los avances que estamos haciendo a nivel de salud son muy grandes . Antes el desafío era poder  curar, ahora empieza a haber salud para prevenir y mejorar. Antes el rey y el mendigo iban a morir, capaz que uno un poco antes y otro después, pero los dos se morían. Hoy hay mucha gente trabajando en tratar de estirar la vida, teóricamente se va a llegar a que no mueras, y eso va a depender de la capacidad económica que tengas.

P: ¿Te parece que va a  ser posible?

R: Sí. Supongo que te vas a morir de otra cosa que todavía no conocemos, me imagino, pero te doy un ejemplo, aunque puede parecer medio ridículo: si vos te fijás, los glóbulos rojos la única función que tienen es recibir oxígeno y distribuirlo en los diferentes órganos y por eso cuando alguien tiene un paro cardíaco el problema es que dejan de circular y no llegan a los órganos. La rehabilitación cardíaca en verdad el único objetivo que tiene es seguir bombeando para que los glóbulos rojos circulen. Ahora, hay gente trabajando en nanotecnología para hacer glóbulos rojos con motorcito y con un sensor que identifica cuándo hay oxígeno y cuándo no, vos podés inyectarle eso a la gente para que cuando tenga un paro cardíaco empiecen a circular solos y mantengan a la persona viva hasta que llegue al hospital (y posiblemente, como decíamos antes, el dispositivo le diga al auto y te lleve solo).

P: O sea, a determinada edad se inyecta para que esté pronto ante la eventualidad de un paro.

R: O lo que va a pasar es que el que tiene plata se lo va a inyectar y el que no, no. Ahí empieza otro debate. Yuval Harari lo dice, la tecnología va a pasar por una época en la que va a generar una brecha social-biológica, va a haber súper hombres… por ejemplo, te vas a poder agregar un chip que te mejor la memoria, y el que pueda pagar va a tener más memoria que el que no. Vamos a poder tener súper hombres y hombres normales, eso alerta mucho, son temas éticos importantísimos.

P: Seré reiterativa diciendo que asusta. Ahora…esa brecha social sería un período determinado, porque se supone que después llegan a todos, porque los Estados lo adoptan…

R: Sí, en cierta medida, pasa con las vacunas y otras cosas. Hoy más o menos, no digo que sea igual, un chico, independientemente de su clase social, si tiene cierta capacidad intelectual y tenemos un buen sistema de educación, teóricamente podría tener las mismas posibilidades que un chico de clase alta. Pero si después te vas a inyectar un chip en la cabeza y uno va a tener más memoria que el otro… ahí el juego pasa a ser mucho menos justo. Hoy la justicia pasa por el Estado y la educación, pero dentro de 20 años no va a ser suficiente para superar la brecha social lo que hagas de afuera. Igual Harari plantea mucho esos temas éticos, él al final lo que dice es que tenemos que ser conscientes y trabajar en base a eso, cuidarnos de que no pase.

P: ¿Cómo se maniobra entre este “sueño” y los frenos que hay que poner? ¿Hay un límite al que no se quiera llegar?

R: Yo creo que sí hay límites, el problema es que hay países que no los van a poner, entonces la situación va a ser peor. Si todo el mundo se pone de acuerdo, si Estados Unidos y Europa ponen un límite, ¿vos estás segura de que China y Rusia lo van a respetar?

P: En absoluto. Es  cuestión de ética, de valores.

R: Claro.  Y no todas  culturas tienen las mismas éticas. No tengo la respuesta, creo que tenemos que ser cuidadosos y controlarnos. Todo lo que se está haciendo con la biotecnología, hasta dónde manipular la biología está bien y hasta dónde está mal, son cuestionamientos muy de fondo. Hay mucha gente que está en contra de aplicar biotecnología a los granos y otros productos. Uruguay por ejemplo es bastante contra los transgénicos, pero si no se hubiese aplicado cierta biotecnología, hoy tendríamos la mitad de la comida que hay en el mundo, o menos. A la larga, con tecnología estamos alimentando el mundo. Cuando éramos chicos creíamos que no iba a alcanzar la comida, hoy alcanza, todavía está mal distribuida, pero fabricamos comida para todo el mundo gracias a la tecnología. Ahora, siempre está el hasta dónde podemos manejar la genética de las plantas, de los animales… Es interesante, como dice Harari, Homo Deus, estamos jugando a Dios.

P: Pablo,en todo este mundo de la inteligencia artificial, que supone por cierto desafíos apasionantes, hay muchas aristas. Yendo a lo particular ¿qué es lo que hace concretamente tu empresa?

R: Nosotros lo que estamos haciendo es utilizar inteligencia artificial para detectar, en organizaciones grandes, situaciones en las que alguien podría compartir información, pero no lo está haciendo. De pronto vos estás trabajando en un diario y estás  investigando sobre algo y capaz que el que está sentado al lado tuyo ya hizo esa investigación y no sabés. En una empresa grande la distancia puede ser de 5.000 kilómetros de distancia. Lo que tratamos de hacer con inteligencia artificial es entender qué hace cada uno y ver cuándo hay situaciones en las que se debería estar compartiendo conocimiento o usando conocimiento que ya tiene generado la empresa.

 P: O sea que desarrollan algoritmos que permiten detectar lo ya hecho…

R: Así es.

P: Yo lo digo  pero  no sé cómo explicarlo, ¿es como una fórmula?

R: Sí… Lo tenemos que hacer por temática, no lo podemos hacer genérico, tenemos que entrenar a la inteligencia artificial para que entienda qué tiene que ver con qué y entender un área de conocimiento. Hasta ahora lo hicimos enfocado en empresas de tecnología, yo puedo saber que alguien está investigando sobre una tecnología y que otras personas ya avanzaron más en la misma investigación, dentro de la misma empresa.

 P: Estoy tratando de bajarlo a tierra…y me viene la imagen, quizás un poco infantil, de película, de detectives que deben escuchar durante muchos días a un sospechoso y saltan cuando determinabas palabras claves aparecen. ¿Estoy diciendo una tontería o hay algo de eso?

R: Más o menos, sí. Vemos lo que cada uno hace, entendemos el contexto y señalamos coincidencias. Muchas veces las empresas no saben quién sabe qué. Por ejemplo, estuve hablando con el gerente de innovación de una empresa grande de marketing de Nueva York, el tipo decía: si a mí me viene a contratar Rolex, que quiere una publicidad, yo lo que debería buscar entre mis 2.000 empleados es a quién le encantan los relojes, y más que nada a quién le encanta el Rolex. Nosotros eso se lo podríamos decir, él hoy no tiene manera, tiene que mandar un mail preguntando y a veces es confidencial  que se ganó tal o cual cliente y no se puede preguntar directamente. Identificamos quién sabe qué en las organizaciones, o a quién le interesa qué, es interesante.

P: Pablo, comenzamos hablando del espíritu  del emprendedor y quisiera agregarle una dimensión…preguntarte si te parece que los judíos tienen algo especial al respecto, un empuje singular. Menciono el tema porque aunque no es que hice ningún censo ni nada similar, mi impresión es que el porcentaje de uruguayos judíos entre los emprendedores, es muy superior al porcentaje de la colectividad en la población nacional. Entiendo que por ejemplo en Endeavor, según me decía tu colega Sergio Oberlander, hay aproximadamente un 20% de judíos…aunque en la población son sólo el 1%.

 

R: Es cierto.Es un hecho. Hoy tanto en Uruguay como en otros países de la región, el porcentaje de judíos emprendedores es muy alto.

 

P: ¿Eso es porque realmente hay un espíritu de avance, de superación, de qué?

R: Sí, yo creo que es eso. A la larga, la mayoría somos segunda generación, algunos tercera, y todos vimos a nuestros padres trabajando duro. Posiblemente quienes llevan seis o siete generaciones, no vieron ese sacrificio. Por ejemplo, hay  mucha gente en Uruguay que tiene campos o rentas y no sienten esa necesidad de construir algo nuevo para salir adelante. Creo que es un tema más de cultura de inmigrante.

Por otro lado, después mirás los premios Nobel y el porcentaje de judíos es muy alto… ahí creo que es clave el tema del estudio. No en vano somos el pueblo del libro. A nosotros nos inculcaron desde chicos que tenemos que estudiar y se lo pasamos a nuestros hijos, está en nuestra cultura. Entonces creo que es un tema cultural con la importancia que le damos al estudio por un lado y por otro, de la necesidad de superación. Sería interesante ver dónde estamos en dos generaciones.

Ana Jerozolimski

 

Ultimas Noticias Ver más

Furor en Israel por el segundo título de campeón europeo en Basquet sub-20
Israel

Furor en Israel por el segundo título de campeón europeo en Basquet sub-20

22 Julio 2019


No cesa de circular por las redes, el Hatikva de la victoria. Fotos: Igud Hakadursal - Asociación israelí de Basquetbol (tomadas de su página oficial y de su página en...

Se estrenará un documental sobre la muerte de Alberto Nisman en el Festival de Cine de San Sebastián
Israel

Se estrenará un documental sobre la muerte de Alberto Nisman en el Festival de Cine de San Sebastián

21 Julio 2019


La serie realizada por el documentalista Justin Webster está compuesta por seis episodios que analizan lo sucedido con el fiscal. Fuente: fenix951.com.ar

Shajar Kugelmas y Muawiye Kabha
Israel

El singular saludo del paramédico árabe a la novia judía que salvó

21 Julio 2019


“Yo conocí a Shajar cuando estaba muerta”, dice en medio de la jupá.

Esta página fue generada en 0.0325630 segundos (2545)
2019-07-22T11:04:22-03:00