<div dir="ltr">Have we considered the very realistic possibility that if it is at all possible to build a shoggoth that consumes our entire future light cone, that we have /already/ been consumed by a shoggoth someone else built?<div><br></div><div>Basic anthropic reasoning: we are in a lot more civilizations' future light cones than are in ours. </div></div><br><div class="gmail_quote gmail_quote_container"><div dir="ltr" class="gmail_attr">On Tue, Dec 10, 2024 at 10:31 PM Mike Dougherty via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div class="gmail_quote" dir="auto"><div dir="ltr" class="gmail_attr">On Tue, Dec 10, 2024, 5:45 PM spike jones via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a>> wrote:</div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div lang="EN-US" style="overflow-wrap: break-word;"><div><p class="MsoNormal">I have been listening to excerpts from Palantir CEO Dr. Alex Karp’s pitch at the Reagan National Defense Forum.  It appears we are in exactly the AI-related species death spiral Eliezer Yudkowsky has been foreseeing and warning against for most of his life.  Every idea we thought of, everything we tried, every post written, hoping to avert an AI arms race appears to have failed.</p></div></div></blockquote></div><div dir="auto">Is it really surprising though?</div><div dir="auto"><br></div><div dir="auto">Maybe we've been thinking about it wrong.</div><div dir="auto"><br></div><div dir="auto">Now that the race is on, we need to be sure of the course.  If 1st place is the only place we are doomed and there's not much else to do but enjoy the last moments of a wild ride.  Otherwise, we may yet find second place is still quite an adventure.</div><div dir="auto"><br></div><div dir="auto">Oh I know the dystopian horror porn has been discussed ad nauseam.  Could we be just as imaginative with alternatives?</div><div class="gmail_quote" dir="auto"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">
</blockquote></div></div>
_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</blockquote></div>