<div dir="ltr"><div class="gmail_default" style="font-family:comic sans ms,sans-serif;font-size:large;color:#000000">Just how would you program an AI to have needs, wants, motivations?  And if you can, is it a good idea?  bill w</div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Tue, Mar 14, 2023 at 10:08 AM spike jones via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><br>
<br>
-----Original Message-----<br>
From: <a href="mailto:spike@rainier66.com" target="_blank">spike@rainier66.com</a> <<a href="mailto:spike@rainier66.com" target="_blank">spike@rainier66.com</a>> <br>
...<br>
<br>
>>...Or rather, how do we deal with an AGI intelligence that looks on <br>
>humans as dog-level intelligences?<br>
<br>
BillK<br>
_______________________________________________<br>
<br>
>...Ja, BillK, there is an in-between stage here.  Currently our proto-AIs<br>
don't have their own will, but dogs do, and we guide their will to do what<br>
we want.  Before, long before we get to AGI superior to humans, we will be<br>
training sub-AIs, dog level AIs.  <br>
<br>
>...Then... as the software gets smarter, so do we.<br>
<br>
spike<br>
<br>
<br>
<br>
<br>
If I may stretch the K9 analogy a little further please: The veteran K9<br>
trains the recruits by their watching the veteran carry out tasks at the<br>
command of the old man.  In no case does the veteran dog take out recruits<br>
and attempt to train him without the old man barking the commands (that<br>
would be interesting and somewhat disturbing to see, if it ever happened.)<br>
<br>
What we are theorizing with AGI is that software will train other software<br>
without human intervention.<br>
<br>
My notion is that long before that happens, we will discover better ways to<br>
train software than our current method, which involves writing actual<br>
software.  We will develop a kind of macro language for writing higher level<br>
software.<br>
<br>
spike<br>
<br>
<br>
_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</blockquote></div>