Cogsec: Cognitive security refers to the protection of cognitive processes from manipulation, misinformation, and other forms of psychological influence that can affect decision-making and perception.
I’m generally interested in the cognitive sciences
. Mechanisms like attention or cognitive biases are extremely complex and we still don’t have a good understanding of them, despite how much they influence the world around us. Those mechanisms developed as consequences of the slow process of evolution, and they are extremely efficient and good at what they do.
For better or worse, technological advancements are working on a completely different time scale to biology, so some of our painstakingly developed instincts and survival mechanisms are completely useless if not detrimental. Humans are not designed to live like we do now, and while we are quick to adapt, our “software” is not. While I’m not the most scale-pilled ML practitioner, I do believe that in the coming years, the amount of information that we will be exposed to will explode in all facets of life, mostly driven by AI.
Since watching this DEF-CON presentation
, I’ve been worried that most people aren’t taking adequate precautions to protect their cognition, I suspect mostly because they haven’t ever thought of it. In the same way, I’m careful with every file that enters my computer from the outside, we should be every bit as careful with what we let into our minds. This is not an original concept at all, but for once I refrained from reading what other people have said about this topic since I know it would only dishearten me from writing my own thoughts.
Most of the attacks on your cognition will not be targeting you directly, but that doesn’t mean they aren’t dangerous. If you don’t spend some time curating the media (news, books, podcasts…) you consume, you will be much more exposed than someone who does. This does have the risk of creating a bubble around yourself, it’s necessary to learn to balance that as well. For example, some people choose to stop watching or reading news since that can make a significant impact on them (especially in situations like the one on Palestine). When I told this to a friend who struggles with this, he was adamant as he felt it was his responsibility to keep up with the conflict. The way I see it there is no reason why he should feel that way, but I might be able to be convinced otherwise since it’s getting difficult for me to articulate why.
Social media to me feels like the worst offender at the moment. Everyone by now knows the power that the TikTok format (short-form videos) has, and it’s a common experience to pass an hour scrolling just to come to your senses at some point and feel bad about how much time you spent. Most of the time you don’t even remember what you saw. As much as that makes me sound like a boomer it feels like a hard drug. To me it’s telling that, everyone I talk to about this knows they have a problem and still choose to do nothing about it. I call this attack dopamine highjacking, and isn’t exclusive to this platform. Much of this damage can be attributed to the capitalist urge to maximize profits (I think most would agree that the incentives aren’t correctly placed in the journalistic field), but the perks are kind of too good for us to do something about it. I don’t know if I can see that changing.
More common attacks on your cognition include publicity, going outside, and the GDPR (one of those is a joke). Much of the time, they attack on a subconscious level, which is annoying since it makes it much more difficult to know you are being sieged. I don’t think we are in a terrible situation right now (with respect to how safe your cognition is) all things considered, but it’s evident to me that it’s going to get much worse over time, and if the speed of change is too fast consequences might be catastrophic. I do attribute some of the guilt for the increased level of mental health care to this, as I touched on in my post Mental illnesses and the Looping Effect. I’m also confident we will adapt and tools like Ublock will be created for many parts of life.
If you take one thing from this post, taking care of your cogsec is important and will increasingly be as time goes by.
Edit 6/5/2025: The way old people are getting constantly scammed by phone is a good preview of how this can turn out. My grandparents keep getting stuff sold to them that they don’t need at unfair prices. For example the internet provider is making them pay more than double what I’m paying, for things they don’t even know what they do. It’s not that they are stupid, but they are not prepared for this kind of attack, they expect people to be honest, and once they realize they are being taken advantage of, they can’t do anything about it, as all transactions are online and difficult to cancel or contact support. Not only that but they are being explicitely targeted by this companies. While this kind of practice seems illegal, it’s almost impossible to prosecute, and while to young people this is a not a problem, it serves as a good example of why cogsec is so important.
Traducido con un LLM del original en inglés.
Cogsec: La seguridad cognitiva se refiere a la protección de los procesos cognitivos frente a la manipulación, la desinformación y otras formas de influencia psicológica que pueden afectar a la toma de decisiones y a la percepción.
En general me interesan las ciencias cognitivas. Mecanismos como la atención o los sesgos cognitivos son extremadamente complejos y todavía no los entendemos bien, a pesar de lo mucho que influyen en el mundo que nos rodea. Esos mecanismos se desarrollaron como consecuencia del lento proceso de la evolución, y son extremadamente eficientes y buenos en lo que hacen.
Para bien o para mal, los avances tecnológicos funcionan en una escala de tiempo completamente distinta a la de la biología, así que algunos de nuestros instintos y mecanismos de supervivencia, desarrollados con tanto esfuerzo, son completamente inútiles, si no perjudiciales. Los humanos no estamos diseñados para vivir como vivimos ahora, y aunque nos adaptamos rápido, nuestro “software” no. Aunque no soy el practicante de ML más scale-pilled, sí creo que en los próximos años la cantidad de información a la que vamos a estar expuestos va a explotar en todas las facetas de la vida, impulsada sobre todo por la IA.
Desde que vi esta charla de la DEF-CON, me preocupa que la mayoría de la gente no esté tomando las precauciones adecuadas para proteger su cognición, sospecho que sobre todo porque nunca se lo han planteado. Igual que yo tengo cuidado con cada archivo que entra en mi ordenador desde fuera, deberíamos tener el mismo cuidado con lo que dejamos entrar en nuestra mente. No es para nada un concepto original, pero por una vez me abstuve de leer lo que ha dicho otra gente sobre el tema, porque sé que solo me quitaría las ganas de escribir mis propias ideas.
La mayoría de ataques a tu cognición no te van a tener a ti como objetivo directo, pero eso no quiere decir que no sean peligrosos. Si no dedicas algo de tiempo a curar los medios (noticias, libros, podcasts…) que consumes, vas a estar mucho más expuesto que alguien que sí lo hace. Esto tiene el riesgo de crear una burbuja a tu alrededor, así que también hace falta aprender a equilibrar eso. Por ejemplo, hay gente que decide dejar de ver o leer noticias porque les pueden afectar mucho (sobre todo en situaciones como la de Palestina). Cuando se lo comenté a un amigo al que le cuesta esto, se mantuvo firme, porque sentía que era su responsabilidad seguir el conflicto. Tal y como yo lo veo, no hay ninguna razón por la que deba sentirse así, pero quizá me podrían convencer de lo contrario, porque me está costando articular por qué.
Las redes sociales me parecen ahora mismo lo peor. A estas alturas todo el mundo sabe el poder que tiene el formato TikTok (vídeos cortos), y es una experiencia común pasarte una hora haciendo scroll hasta que en algún momento vuelves en ti y te sientes mal por todo el tiempo que has perdido. La mayoría de las veces ni siquiera recuerdas lo que has visto. Por mucho que esto me haga sonar a boomer, parece una droga dura. Para mí es revelador que todo el mundo con quien hablo de esto sabe que tiene un problema y aun así decide no hacer nada. A este ataque lo llamo dopamine highjacking, y no es exclusivo de esta plataforma. Gran parte de este daño se puede atribuir al impulso capitalista de maximizar beneficios (creo que la mayoría estaría de acuerdo en que los incentivos no están bien puestos en el ámbito periodístico), pero las ventajas son demasiado buenas como para que hagamos algo al respecto. No sé si lo veo cambiando.
Otros ataques más comunes a tu cognición son la publicidad, salir a la calle y el RGPD (uno de estos es broma). Muchas veces atacan a nivel subconsciente, lo cual es molesto porque hace mucho más difícil saber que te están asediando. No creo que estemos en una situación terrible ahora mismo (en cuanto a lo segura que está tu cognición), teniendo todo en cuenta, pero para mí es evidente que va a ir a mucho peor con el tiempo, y si el cambio es demasiado rápido las consecuencias podrían ser catastróficas. Sí le atribuyo parte de la culpa del aumento del nivel de atención en salud mental a esto, como comenté en mi post Mental illnesses and the Looping Effect. También estoy convencido de que nos adaptaremos y se crearán herramientas como Ublock para muchas partes de la vida.
Si te quedas con una cosa de este post: cuidar tu cogsec es importante y lo será cada vez más con el paso del tiempo.
Edit 6/5/2025: La forma en que a la gente mayor la estafan constantemente por teléfono es un buen adelanto de cómo puede acabar esto. A mis abuelos no paran de venderles cosas que no necesitan a precios abusivos. Por ejemplo, el proveedor de internet les está cobrando más del doble de lo que pago yo, por cosas que ni siquiera saben para qué sirven. No es que sean tontos, es que no están preparados para este tipo de ataque, esperan que la gente sea honesta, y cuando se dan cuenta de que se están aprovechando de ellos, no pueden hacer nada, porque todas las transacciones son online y es difícil cancelar o contactar con soporte. Y no solo eso, sino que estas empresas los tienen explícitamente como objetivo. Aunque este tipo de prácticas parecen ilegales, es casi imposible perseguirlas, y aunque para la gente joven esto no es un problema, sirve como buen ejemplo de por qué la cogsec es tan importante.