<div dir="ltr"><div class="gmail_default" style="font-family:comic sans ms,sans-serif;font-size:large;color:#000000">If you get in the water, retrievers will try to herd you to land.   bill w</div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Sat, Apr 2, 2022 at 1:17 PM spike jones via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><br>
<br>
-----Original Message-----<br>
From: extropy-chat <<a href="mailto:extropy-chat-bounces@lists.extropy.org" target="_blank">extropy-chat-bounces@lists.extropy.org</a>> On Behalf Of<br>
BillK via extropy-chat<br>
...<br>
>...An opposite (but equally disastrous) option is when the AGI is<br>
programmed to love humans and decides to completely protect and care for<br>
humanity. So no human evil is permitted, no killing or violence, even verbal<br>
violence. Just quiet and complete care.<br>
There are so many ways an AGI could end humanity.<br>
<br>
<br>
BillK<br>
<br>
_______________________________________________<br>
<br>
<br>
BillK when I read that I was reminded of how different dog breeds take to<br>
humans.  Some really just make lousy pets, such as Alaskan sled dogs: they<br>
just want to pull something, they don't want to be petted.  They would<br>
prefer you keep your paws to yourself unless hitching up a harness.  Some<br>
dogs just want to guard things.  If anyone takes anything, including the<br>
garbage collector, they lose their damn minds.<br>
<br>
Retrievers... heh.  Most of them just loooove their peoples.  In their<br>
simple brains, all humans are good.  They cannot understand the concept of a<br>
bad human.  Perfectly useless as guard dogs they are.  Any thief they have<br>
never smelled can just walk up and start hauling your stuff away, the<br>
retriever appears to assume that is perfectly natural.  He is just<br>
retrieving something so he can throw it, so I can go get it.  What's wrong<br>
with that? etc.  sheesh.<br>
<br>
So puzzling: if you had the brains of the Doberman, the retriever, the sled<br>
dog in a jar, all three look identical.  But they are just somehow<br>
programmed completely differently.  Hard to say why that happens.<br>
<br>
I can imagine plenty of examples of malicious software that would far<br>
predate anything like artificial intelligence.  That sounds like a far<br>
bigger threat to me: something that would gum up commerce.  We saw what<br>
happened in the USA when normal commerce was only partially clogged by a<br>
biological virus.  Since that started, how often have you used paper money?<br>
Me neither.  Imagine how bad it could get if credit cards suddenly didn't<br>
work.<br>
<br>
spike<br>
<br>
_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</blockquote></div>