<div dir="auto"><a href="https://terasemjournals.net/GNJournal/GN0202/henson1.html">https://terasemjournals.net/GNJournal/GN0202/henson1.html</a><div dir="auto"><br></div><div dir="auto">This the clinic seed that you're referring? </div><div dir="auto">Smile, ilsa </div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Sat, Jul 27, 2024, 3:51 PM Keith Henson via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">Bill, it just does not matter.  We are going to get super smart AI<br>
sooner or later.<br>
<br>
AI should be able to do lots of good things as well as possibly being<br>
a danger.  Might as well get it sooner and enjoy the benefits.<br>
<br>
Have you ever read "The Clinic Seed."  That is about Suskulan, a very<br>
friendly AI, which has the effect of biological extinction for the<br>
people it serves (but nobody dies).<br>
<br>
Keith<br>
<br>
On Sat, Jul 27, 2024 at 2:51 AM BillK via extropy-chat<br>
<<a href="mailto:extropy-chat@lists.extropy.org" target="_blank" rel="noreferrer">extropy-chat@lists.extropy.org</a>> wrote:<br>
><br>
> On Sat, 27 Jul 2024 at 09:56, Stuart LaForge via extropy-chat<br>
> <<a href="mailto:extropy-chat@lists.extropy.org" target="_blank" rel="noreferrer">extropy-chat@lists.extropy.org</a>> wrote:<br>
> ><br>
> > <snip><br>
> ><br>
> > I agree that safety is critical. And now that open source is driving its<br>
> > development, it will be safer for everybody, and not just the chosen few<br>
> > that control it. AI-controlled weapons are already killing people in<br>
> > Ukraine and Gaza. It is possible that an AGI will be less inclined to<br>
> > kill some humans at the behest of other humans. After all, the AI won't<br>
> > have all the instinctual primate baggage of predation, dominance, and<br>
> > hierarchy driving its behavior.<br>
> ><br>
> > Stuart LaForge<br>
> > _______________________________________________<br>
><br>
><br>
> To me (in the UK) that sounds very much like an American saying that<br>
> giving everybody guns will be safer for everybody, and not just for<br>
> the chosen few allowed to have guns.<br>
> The big danger is that the world will end up with an AI problem that is very<br>
> similar to the USA gun violence problem.<br>
><br>
> <<a href="https://www.bbc.co.uk/news/articles/cjqqelzgq17o" rel="noreferrer noreferrer" target="_blank">https://www.bbc.co.uk/news/articles/cjqqelzgq17o</a>><br>
> Quote:<br>
> Since 2020, guns have been the leading cause of death for children and<br>
> younger Americans.<br>
> And the death rate from guns is 11.4 times higher in the US, compared<br>
> to 28 other high-income countries, making the issue a uniquely<br>
> American problem.<br>
> ----------------<br>
><br>
> This danger applies to the current AI development phase when every cyber<br>
> criminal is stealing billions worldwide and using every tool in the<br>
> book to threaten businesses worldwide.<br>
> You can hope that an all-powerful AGI might make its own decisions and put<br>
> a stop to all the criminal uses of AI.  But if we don't control the<br>
> misuse of AI during development, we could end up with a criminal /<br>
> fascist / insane AGI.<br>
><br>
> BillK<br>
> _______________________________________________<br>
> extropy-chat mailing list<br>
> <a href="mailto:extropy-chat@lists.extropy.org" target="_blank" rel="noreferrer">extropy-chat@lists.extropy.org</a><br>
> <a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
<br>
_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" target="_blank" rel="noreferrer">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</blockquote></div>