<div dir="ltr"><br><div>Hi Spike,</div><div>For sure, this is definitely needed.</div><div><br></div><div>We're building and tracking consensus on both sides of this issue with the currently terribly named "<a href="https://canonizer.com/topic/16-Should-we-fear-AI/1-Agreement?is_tree_open=1">Should we fear AI</a>" topic on Canonizer.</div><div>There is of course the supper camp that both sides agree on that AI "<a href="https://canonizer.com/topic/16-Should-we-fear-AI/8-Will-Surpass-current-humans?is_tree_open=1">Will Surpass Current Humans</a>".</div><div>Then there are the two main competing sub camps:</div><div><ol><li><a href="https://canonizer.com/topic/16-Should-we-fear-AI/3-Such-Concern-Is-Mistaken?is_tree_open=1">Such Concern is Mistaken (61%)</a></li><li><a href="https://canonizer.com/topic/16-Should-we-fear-AI/9-FriendlyAIisSensible?is_tree_open=1">Friendly AI is sensible (33%)</a></li></ol></div><div>And these are just terrible names.  We've changed the names of these camps a few times, but I still can't think of the way better names we need to communicate effectively to everyone what they mean.</div><div>The statements on each side could also be significantly improved.  Is making the focus on 'friendliness" the right focus?  I think not and going with "alignment" isn't any better is it?  And of course I'm always building and tracking consensus around my petition sub camp (with 15% of the vote): "<a href="https://canonizer.com/topic/16-Should-we-fear-AI/2-AI-can-only-be-friendly?is_tree_open=1">AI can only be friendly</a>" as to me "intelligence" will necessarily be good/friendly.  bad intelligence just doesn't make logical sense to me.</div><div><br></div><div>Of course, <a href="http://canonizer.com">canonizer.com</a> is the best place to build and track consensus around such things as good names.</div><div><br></div><div><br></div><div><br></div><div><br></div><div><br></div><div><br></div><div><br></div><div><br></div></div><br><div class="gmail_quote gmail_quote_container"><div dir="ltr" class="gmail_attr">On Sat, Jun 28, 2025 at 11:09 AM spike jones via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div class="msg1174097113256555285">
<div lang="EN-US" style="overflow-wrap: break-word;"><div class="m_1174097113256555285WordSection1"><p class="MsoNormal"><span style="font-size:11pt"><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:11pt"><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:11pt">We need a new name for this school of thought besides AI Notkilleveryoneism:<u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:11pt"><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:11pt"><a href="https://x.com/AISafetyMemes/status/1932465150151270644?utm_source=substack&utm_medium=email" target="_blank">AI Notkilleveryoneism Memes <span style="font-family:"Segoe UI Emoji",sans-serif">⏸️</span> on X: "1) For the first time, an autonomous drone defeated the top human pilots in an international drone racing competition 2) Drones are now ***70%*** of battlefield casualties in the Ukraine war Tick. Tock. https://t.co/94qqAvPyAc" / X</a><u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:11pt"><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:11pt">Suggestions?<u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:11pt"><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:11pt">Could there be subcategories, such as AI EveryoneDamnSureHOPESAINotkilleveryoneism?  That one is even more in need of a shorter name.<u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:11pt"><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:11pt">spike<u></u><u></u></span></p></div></div>_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</div></blockquote></div>