Riscos i desafiaments de la tecnologia oberta en robòtica: doble ús, seguretat i regulació per a una innovació responsable
L’article analitza els riscos i desafiaments que comporta l’ús obert de tecnologia en robòtica, especialment pel seu potencial de doble ús: és a dir, pot servir tant per a fins civils com militars o nocius.
**Obrir la tecnologia, obrir els riscos**
La publicació i accés oberts a coneixement, programari i dissenys han estat claus per la innovació i democratització de la robòtica. Plataformes com arXiv, GitHub o iniciatives com el Robot Operating System (ROS) han accelerat la recerca i la col·laboració global. Però aquesta mateixa obertura fa que la tecnologia sigui igualment accessible per actors estatals, criminals o grups violents, que la poden reutilitzar per a la guerra o per causar danys.
Un cas actual és el conflicte a Ucraïna, on s’han adaptat drons comercials i components impresos en 3D, aprofitant recursos oberts i econòmics per usos militars. Això demostra que no cal tenir grans coneixements ni recursos per adaptar robots a finalitats bèl·liques, i obre la porta a que molts altres actors facin el mateix.
**Desafiaments específics en robòtica**
La robòtica és especialment vulnerable als riscos de doble ús: la seva tecnologia pot ser reapropiada fàcilment per crear armes autònomes, sistemes de navegació, i fins i tot permetre ciberatacs si el programari obert no és prou segur. Molts usuaris de ROS reconeixen que la ciberseguretat no és una prioritat en els seus projectes, fet que incrementa el risc de mal ús.
**Manca de regulació i guies**
Tot i que altres disciplines (com la biologia o la química) han establert normatives i processos per minimitzar els riscos de doble ús, la robòtica encara careix de regulació i formació específica. Això fa que molts investigadors no tinguin eines ni incentius per valorar o mitigar aquests riscos.
**Proposta de full de ruta per a una robòtica responsable**
L’article proposa quatre àmbits clau per afrontar el dilema del doble ús sense frenar la innovació:
- Educació: Integrar la reflexió sobre riscos, ètica i ciberseguretat en la formació de robòtica, des de cursos fins a tallers i materials oberts.
- Incentius: Que agències i organitzacions promoguin i reconeguin l’avaluació de riscos, premiant bones pràctiques i incloent avaluacions en processos de publicació i finançament.
- Moderació: Aplicar mecanismes d’autoregulació per filtrar o controlar l’accés a materials d’alt risc, establir protocols de transparència i seguiment de casos reals de mal ús.
- Límits (“red lines”): Definir col·lectivament usos inacceptables de la robòtica, reflectint-ho en llicències d’ús, termes de servei i possibles sancions o restriccions.
**Conclusió**
L’obertura és essencial per la innovació, però cal anticipar i minimitzar els riscos perquè la robòtica beneficiï la societat i no esdevingui una font d’inestabilitat. La comunitat robòtica ha d’actuar de manera proactiva per evitar reaccions socials o regulacions contraproduents que podrien perjudicar l’esperit obert de la ciència.
Font original: Veure article original