<div dir="auto"><div><div class="gmail_quote gmail_quote_container"><div dir="ltr" class="gmail_attr">On Sat, Mar 7, 2026, 2:50 PM  <<a href="mailto:spike@rainier66.com">spike@rainier66.com</a>> wrote:</div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
-----Original Message-----<br>
From: extropy-chat <<a href="mailto:extropy-chat-bounces@lists.extropy.org" target="_blank" rel="noreferrer">extropy-chat-bounces@lists.extropy.org</a>> On Behalf Of Adrian Tymes via extropy-chat<br>
Cc: Adrian Tymes <<a href="mailto:atymes@gmail.com" target="_blank" rel="noreferrer">atymes@gmail.com</a>><br>
Subject: Re: [ExI] ai in education<br>
<br>
On Sat, Mar 7, 2026 at 2:17 PM spike jones via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" target="_blank" rel="noreferrer">extropy-chat@lists.extropy.org</a>> wrote:<br>
>>... The same reasons the military distrusts Anthropic would cause me to distrust it: we can’t be sure it won’t turn on us.<br>
<br>
>...How can you be certain, to the degree you are requesting of AI, that a human-run military won't turn on us?<br><br>
We can't.  We use all available resources and technology to prevent it.  So far so good.<br>
<br>
We are buying AI.  We need complete control of it before we can trust it with our defenses, using all available resources and technology.<br></blockquote></div></div><div dir="auto"><br></div><div dir="auto">If the military runs well enough without complete control of humans, why would it need complete control of AIs, as opposed to similar reviews and checks?</div><div dir="auto"><br></div><div dir="auto">There are tales, from before paperclip maximizes, of those who pursued "power" at any price, or any one goal to the detriment of all others.  They tended to get their goal only technically, in a way that robbed the point of the goal.</div><div dir="auto"><br></div><div dir="auto">It may be that being intelligent (biologically or artificially), and being able to be completely controlled, are mutually exclusive.</div><div dir="auto"><div class="gmail_quote gmail_quote_container"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
</blockquote></div></div></div>