<div dir="ltr"><div dir="ltr">On Sat, Jan 8, 2022 at 10:13 PM Rafal Smigrodzki via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr">On Sat, Jan 8, 2022 at 3:38 AM Adrian Tymes via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a>> wrote:<br></div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr">Unstated assumption #1: human capabilities are a finite checklist that can be performed by AIs, one by one, using architectures that are able to inherit the capabilities of previous AIs.</div></blockquote><div><br></div><div>### Well, one way of checking off all boxes of a human to-do list</div></div></div></blockquote><div><br></div><div>Part of the assumption is that it consists of a list of boxes that can be checked off.</div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div>Unstated assumption #2: previous AIs will not merge into humans in a way that dramatically boosts "human-level" intellectual performance and thus the requirements for an AI to be generally considered an AGI.  Granted, this is a form of moving the goalposts, but if the goal is to reach whatever is thought of as "human-level" at the time, that goal has moved over time before.<br></div></div></blockquote><div><br></div><div>### Well, yeah, this is definitely moving the goalposts quite dramatically.</div></div></div></blockquote><div><br></div><div>Granted.  But have not these particular goalposts been in motion all along? </div></div></div>