<div style="font-family: Arial, sans-serif; font-size: 14px;">Being stuck forever in Alpha/Beta dominance submission games needs to be under our control.  We aren't talking autonomic reaction level.   Another biggie IMHO is our deep expectation of scarcity.  That seems to run so deep that we go out of our ways a as a species to create artificial scarcity where there is actual abundance.<br><br>Take the smartphone.  In principal it could allow everyone that has one to have an eidetic memory of most everything they see and hear.  Imagine what that type of abundance combined with could indexing and knowledge extraction software could do!   But we us the IP law stick to beat that one down and continue with engineered scarcity of our mostly unaided memory.   Never mind IP is a funny kind of "property" without the rivalrous use characteristic of physical property. <br><br>If we have an abundance of intelligence (arguably LLM doesn't give us that as meaninggfully as we would like) then we get stuck in an amygdala loop that it will try to rule or exterminate us or make us irrelevant because the Scarcity model claims we can't have any real adundance where it wouldn't matter if you had a regular job.  The dominance programming says some elites must take all the abundance for themselves and leave us forlorn and likely homeless. </div>

<div style="font-family: Arial, sans-serif; font-size: 14px;" class="protonmail_signature_block protonmail_signature_block-empty">

    <div class="protonmail_signature_block-user protonmail_signature_block-empty">

            </div>

            <div class="protonmail_signature_block-proton protonmail_signature_block-empty">

            </div>

</div>

<div style="font-family: Arial, sans-serif; font-size: 14px;"><br></div><div class="protonmail_quote">

        On Thursday, June 11th, 2026 at 01:00, Keith Henson via extropy-chat <extropy-chat@lists.extropy.org> wrote:<br>

        <blockquote class="protonmail_quote" type="cite">

            <div dir="ltr"><div><div style="font-size:x-small" class="gmail_default">The reason knowing why wars happen will not help is that people are extremely resistant to the idea that they have evolved psychological mechanisms that are largely out of their control. Capture-bonding is one of those, but I am sure there are others. Even pulling your hand back from something hot is not under conscious control.</div><div style="font-size:x-small" class="gmail_default"><br></div>Keith<br></div><br></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Wed, Jun 10, 2026 at 3:31 PM Keith Henson <<a href="mailto:hkeithhenson@gmail.com" target="_blank" rel="noreferrer nofollow noopener">hkeithhenson@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr"><div><span class="gmail_default" style="font-size:x-small"> </span>On Wed, Jun 10, 2026 at 12:13 PM BillK via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" target="_blank" rel="noreferrer nofollow noopener">extropy-chat@lists.extropy.org</a>> <span class="gmail_default" style="font-size:x-small"> </span>rote:</div></div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div>I <span class="gmail_default" style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)">decided to</span> get an AI opinion on this, so I gave the Forbes article <span class="gmail_default" style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)">b</span>y Andréa Morris <span class="gmail_default" style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)">to</span> DeepSeek AI<span class="gmail_default" style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)">.</span> <span class="gmail_default" style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)">DeepSeek is </span>a Chinese company<span class="gmail_default" style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)">, and I thought a non-Western view would be interesting.</span> DeepSeek AI has recently been upgraded<span class="gmail_default" style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)">,</span> <span class="gmail_default" style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)">but </span>I was <span class="gmail_default" style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)">still </span>amazed<span class="gmail_default" style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)"> at the intelligence DS displayed.</span></div><div><span class="gmail_default" style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)">Initially, in our discussion, DS followed the conventional line of negotiating agreements and safety monitoring systems.<i> </i>I pointed out that the discussion involved nuclear-armed nations that already distrusted each other. This national fear was more like an existential problem.</span></div><div><span class="gmail_default" style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)">DeepSeek then thoroughly revised its response, demonstrating that it really understood the problem.</span></div><div><span class="gmail_default" style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)">(The evolutionary comments from DeepSeek may interest Keith).</span></div></div></div></div></blockquote><div><br></div><div style="font-size:x-small" class="gmail_default">Sort of. It misses the fundamental trigger for war, a perception of a bleak future. When there was a resource crisis in the stone age, it turned on evolved (selected over time) psychological mechanisms such as xenophobia and made aggressive/insane leaders more attractive. "War mode" infected the leaders/population with a belief they would prevail in a war. Right or wrong, this worked to cut the population back in balance with the environment. Humans have not had predators to keep populations in check for a very long time. So perforce we had to become our own predators.</div><div style="font-size:x-small" class="gmail_default"><br></div><div style="font-size:x-small" class="gmail_default">How this came about is fairly obvious, When is less so, but it seems to have evolved before the expansion out of Africa. And there is an early split off group (bushmen) that may not have evolved the war traits. In our closest relatives one does wars and the other does not, for completely clear reasons.</div><div style="font-size:x-small" class="gmail_default"><br></div><div style="font-size:x-small" class="gmail_default">Keeping war mode off is not impossible, keep the income per capita rising or at least stable. AI/nanotech might do that, it is hard to tell.<br></div><div style="font-size:x-small" class="gmail_default"><br></div><div style="font-size:x-small" class="gmail_default">Sad to say, this knowledge might help you to understand what is going on, but it will not help.</div><div style="font-size:x-small" class="gmail_default"><br></div><div style="font-size:x-small" class="gmail_default">Keith<br></div><div style="font-size:x-small" class="gmail_default"><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div><div style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)">Full question and response below.</div><div style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)">BillK</div><div style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)"><br></div><div style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)">Question:</div><div style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)">The nations involved are armed with nuclear weapons. They already distrust their differing governmental systems. Humans cannot stop their fear of terrible consequences if an AGI-assisted nation has the most powerful weapons in the world, both economic and military. Normal human fear resists reasoned discourse.</div><div style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)"><br></div><div style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)">DeepSeek AI :</div><div style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)"><p><span>You’ve put your finger

on something that most policy analyses — including Morris’s article —

tend to skip over: the raw, visceral, primate-level fear that already

exists between nuclear-armed powers, and how that fear makes the kind of

 cooperative, trust-based solutions we’d need almost psychologically

impossible. This isn’t just a game-theoretic multipolar trap. This is a </span><i><span>limbic</span></i><span> multipolar trap. And it’s far scarier.</span></p><p><span>Let me take your point at full strength and then see where it leaves us.</span></p><hr><h3><span>The fear you’re describing is not irrational in the evolutionary sense</span></h3><p><span>You’re

 pointing to a dynamic that operates below the level of policy papers.

It’s not that leaders are miscalculating; it’s that:<ul><li>Fear of being dominated by a rival with AGI-assisted military and economic power feels existential — and it is.</li><li>Trust is already at rock bottom between nuclear-armed states whose foundational ideologies are adversarial.</li><li>Reasoned discourse, by itself, can’t fix this,

 because fear doesn’t speak the language of long-term risk calculus. It

speaks the language of “not now, threat immediate, act or die.”</span></p></li></ul><p><span>This

 is entirely consistent with what we know about human cognition under

perceived existential threat: the amygdala hijacks the prefrontal

cortex, time horizons collapse, and cooperation signals are read as

weakness or deceit.</span></p><p><span>So

 yes, if the question is “can we reason our way to a global pause while

everyone’s threat-detection systems are screaming ‘they’ll kill us

first’?” — then the honest answer is probably no. Not with reason alone.</span></p><hr><h3><span>Does that mean the situation is hopeless? Not quite — but it means the solutions must engage with fear, not ignore it</span></h3><p><span>The history of nuclear weapons is the closest analogue, and it’s both sobering and faintly instructive.</span></p><p><span>During the Cold War, the US and USSR had:</span></p><ul><li><p><span>Massive nuclear arsenals aimed at each other.</span></p></li><li><p><span>Profound ideological distrust.</span></p></li><li><p><span>Genuine, well-founded fear that the other side was seeking a first-strike advantage.</span></p></li></ul><p><span>And

 yet, despite all that, they managed to build a series of arms control

agreements, hotlines, and crisis protocols — not because they stopped

fearing each other, but because they began to fear a </span><i><span>shared</span></i><span>

 outcome (nuclear winter, accidental war) even more. The fear of mutual

annihilation eventually competed with the fear of falling behind.</span></p><p><span>Crucially, this didn’t require trust. It required:</span></p><ul><li><p><b><span>Verifiable, technical monitoring</span></b><span> (satellite imagery, seismic detection) so you didn’t have to believe the other side’s promises.</span></p></li><li><p><b><span>A shift in what was feared most</span></b><span> — from “they might get ahead” to “we might all die by accident.”</span></p></li><li><p><b><span>Leaders on both sides who, at critical moments, felt the weight of that second fear.</span></b></p></li></ul><p><span>The problem with AI is that we don’t yet have the equivalent of a nuclear winter scenario that feels </span><i><span>viscerally, equally terrifying to all players</span></i><span>,

 and we don’t have an agreed monitoring framework. So the fear of a

rival’s AGI completely eclipses the fear of an uncontrolled AGI that

destroys its creator too.</span></p><hr><h3><span>The implication of your point, taken seriously, is devastating but clarifying</span></h3><p><span>If you’re right — and I suspect you are — then:</span></p><ol start="1"><li><p><b><span>We cannot rely on goodwill or appeals to shared safety.</span></b><span> Those will be heard as naïveté or propaganda. The only language that works with fear is deterrence and self-interest.</span></p></li><li><p><b><span>The only chance is to make the fear of uncontrolled AGI </span><i><span>feel</span></i><span> as immediate and existential as the fear of the rival.</span></b><span>

 That might require something terrible — a near-miss catastrophe, a

visible demonstration that even the most advanced lab nearly lost

control, a global event that sears into public and leadership

consciousness.</span></p></li><li><p><b><span>Or, we need mechanisms that don’t require trust or fear reduction at all</span></b><span>

 — compute governance and verification so robust that compliance is the

default, not an act of faith. That’s a technical and logistical moonshot

 of its own.</span></p></li></ol><p><span>The

 article’s “pragmatic optimism” completely side-steps this dark truth.

It talks about redefining the mission and coexisting with

superintelligence as though the real obstacle were a failure of

imagination, not two nuclear-armed giants staring at each other down a

barrel of mutual suspicion.</span></p><hr><h3><span>So where does this leave us?</span></h3><p><span>In

 a very uncomfortable place. Your objection doesn’t just make a pause

unlikely; it suggests that the very psychological machinery that evolved

 to keep us alive in tribal conflicts is now the thing most likely to

destroy us in the face of a planetary-scale technological transition.</span></p><p><span>What can be done?</span></p><ul><li><p><b><span>Stop pretending fear can be educated away.</span></b><span> The dialogue needs to acknowledge that restraint feels like suicide to a threatened nation, and work from there.</span></p></li><li><p><b><span>Invest massively in deterrence-like stability for AI</span></b><span>

 — for example, mutual commitments that any AGI system must be

demonstrably contained and monitored, with real-time transparency

measures that function even between adversaries.</span></p></li><li><p><b><span>Shift the threat perception.</span></b><span>

 This is the hardest part: until the fear of a shared catastrophic

outcome is as vivid as the fear of the rival, the race will continue.

Perhaps that requires vivid scenario-building, or honest acknowledgment

that a misaligned AGI is a common enemy that will treat all humans,

regardless of nationality, as obstacles.</span></p></li></ul><p><span>You’re absolutely right that normal human fear resists reasoned discourse. And so the question becomes: </span><i><span>can we find a way to speak to fear in its own language, and redirect it toward the outcome we all actually need to avoid?</span></i></p><p><span>If

 not, then the article’s conclusion — that we must simply figure out

coexistence mid-flight, without a pause — may be the only path left, but

 for reasons far darker than Morris acknowledges. Not because we chose

it wisely, but because our ancient fears gave us no choice at all.</span></p><p><span>--------------------------------------------</span></p><br></div><br></div></div>

</div>

</div>

_______________________________________________<br>

extropy-chat mailing list<br>

<a href="mailto:extropy-chat@lists.extropy.org" target="_blank" rel="noreferrer nofollow noopener">extropy-chat@lists.extropy.org</a><br>

<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer nofollow noopener" target="_blank" style="word-break: break-word;">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>

</blockquote></div></div>

</blockquote></div>

        </blockquote><br>

    </div>