<div dir="ltr">Based on that article, it sounds like Dennett has been hanging out with Eliezer Yudkowsky.   I'm quite disappointed with both of their recent hot takes.</div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Tue, May 16, 2023 at 7:31 PM BillK via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">New article by Daniel C. Dennett    May 16, 2023.<br>
<br>
The Problem With Counterfeit People<br>
Companies using AI to generate fake people are committing an immoral<br>
act of vandalism, and should be held liable.<br>
<br>
<<a href="https://www.theatlantic.com/technology/archive/2023/05/problem-counterfeit-people/674075/" rel="noreferrer" target="_blank">https://www.theatlantic.com/technology/archive/2023/05/problem-counterfeit-people/674075/</a>><br>
Quotes:<br>
Today, for the first time in history, thanks to artificial<br>
intelligence, it is possible for anybody to make counterfeit people<br>
who can pass for real in many of the new digital environments we have<br>
created. These counterfeit people are the most dangerous artifacts in<br>
human history, capable of destroying not just economies but human<br>
freedom itself.<br>
<br>
Creating counterfeit digital people risks destroying our civilization.<br>
Democracy depends on the informed (not misinformed) consent of the<br>
governed. By allowing the most economically and politically powerful<br>
people, corporations, and governments to control our attention, these<br>
systems will control us.<br>
<br>
The key design innovation in the technology that makes losing control<br>
of these systems a real possibility is that, unlike nuclear bombs,<br>
these weapons can reproduce. Evolution is not restricted to living<br>
organisms, as Richard Dawkins demonstrated in 1976 in The Selfish<br>
Gene. Counterfeit people are already beginning to manipulate us into<br>
midwiving their progeny. They will learn from one another, and those<br>
that are the smartest, the fittest, will not just survive; they will<br>
multiply.<br>
--------------------<br>
<br>
These AIs pretending to be people could become the Great Persuaders of<br>
the internet.<br>
They are not just amusing toys for us to play with.<br>
<br>
BillK<br>
_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</blockquote></div>