TLDR; Оваа статија го истражува изненадувачкиот креативен потенцијал на халуцинациите на вештачката интелигенција во генеративните модели на вештачка интелигенција како DALL·E. Додека обично се гледаат како недостатоци во длабокото учење, овие „грешки“ можат да произведат неочекуван уметнички сјај. халуцинации Генерирање на модели Длабоко учење Вештачка интелигенција What Does It Mean for AI to “Hallucinate”? Што значи за AI да се „халуцинира“? Терминот Според Оксфордскиот речник за напредни научници, халуцинацијата е: халуцинации 
 
 Фактот дека се чини дека гледате или слушате некого / нешто што навистина не е таму, особено поради болест или дрога. Фактот дека се чини дека гледате или слушате некого / нешто што навистина не е таму, особено поради болест или дрога. Со други зборови, халуцинациите обично се поврзани со лажни перцепции - нешто што треба да се плаши или да се поправи. Кога LLM (Големиот модел на јазикот) како ChatGPT или генеративниот модел на AI како DALL-E се вели дека е "халуцинација", тоа значи дека произведе Последиците од ова се сериозни: тоа сугерира дека никогаш не можеме целосно да му веруваме на моделот.Потенцијалните ризици? лажни или погрешни информации лажни или погрешни информации When Hallucination Goes Too Far Кога халуцинациите одат премногу далеку Да почнеме со темната страна. Замислете дека планирате романтична вечер во град што никогаш не сте го посетувале. Ќе побарате од ChatGPT да препорача ресторан и да изберете од ветувачка листа на локации. Но, кога ќе пристигнете - сите облечени - ќе откриете дека ресторанот не постои на наведената локација. Покрај тоа, не постои на која било локација. Секако. но тоа е релативно безопасен пример. Сега размислете за повеќе штетни сценарија: 
 
 
 
 
 Медицинските дезинформации доведуваат до погрешни дијагнози и третмани. Историски неточности кои го чиниле студентот нивниот степен. Код грешки кои се распаѓаат цели системи. Автономно возење поради погрешни интерпретации. Алуцинациите на АИ не се само фиктивни несакани ефекти; тие можат да имаат . real-world consequences The Pentagon That Wasn’t Пентагон кој не е Пред две години, верификувана сметка на Твитер (сега X) објави Фотографијата покажа облак од дим во близина на зграда во облик на Твитот стана вирусен и предизвика брза реакција на пазарот – Доу Џонс падна за 85 поени за само четири минути. Слики од експлозија Пентагон Еве го пиклето - сликата беше лажна. Еве го пиклето - сликата беше лажна. Сликата најверојатно беше генерирана од АИ, а експлозијата никогаш не се случила. . the financial damage had already been done Не е јасно дали тоа беше човечки наредени повик кој ја создаде таа слика или халуцинација на модел, но на било кој начин резултатот беше ист. When Bots Make Up Policy Кога ботови формираат политика Во последно време, Последица на вознемиреност - корисниците се жалеа, некои дури и ги откажаа своите претплати. Ботот за поддршка на AI на Cursor ги информираше корисниците дека алатката повеќе не може да се користи на повеќе од една машина Имаше само еден проблем: . it wasn’t true Извршниот директор на Cursor подоцна ја разјасни: „Ние немаме таква политика. Се разбира, вие сте слободни да го користите Cursor на повеќе машини.“ Кој беше одговорен, прашувате? „За жал, ова е погрешен одговор од бот за поддршка на првата линија на АИ.“ изјави извршниот директор. Значи, во основа, АИ измислила политика надвор од воздухот. The Courtroom Catastrophe Катастрофа во судот Можеби најпознатиот пример: t Моделот што го цитираме Адвокатите, без да знаат, ги поднесоа на федералниот судија. каде адвокатите го користат ChatGPT за да помогнат во изготвувањето на правен преглед completely fabricated legal cases Судијата изјави дека „се откажале од своите одговорности“ и продолжиле да стојат до лажните цитати дури и откако биле испитани. Can a Hallucination Be… Good? Може ли халуцинацијата да биде... добра? Овие примери поткрепуваат еден заклучок: Секој излез мора да биде двојно проверен, без оглед на тоа колку е убедлив и сигурен. AI cannot be trusted blindly Можеш ли целосно да им веруваш на луѓето? Можеш ли целосно да им веруваш на луѓето? И што ако ја погледнеме халуцинацијата од друг агол? Еден од највизионерските умови во историјата на технологијата - некој кој буквално помогна да се обликува светот во кој живееме - исто така беше познат по тоа што ја прифати халуцинацијата. Стив Џобс, познатиот соосновач на Apple, отворено ги припишал психоделичните лекови како ЛСД за проширувањето на неговото креативно размислување. Џобс не бил воден од конвенција – тој бил воден од имагинација. Го сака или го мрази, никој не може да го негира скалата на неговото влијание. Тој не само што градел производи; тој ја наведнуваше реалноста за да одговара на неговата визија. И ако промената на перцепцијата играше улога во тој процес, не треба ли да го преиспитаме она што го имаме предвид кога велиме дека идејата - или сликата - е „халуцинирана“? Jobs, LSD, and Creativity Работа, ЛСД и креативност Стив Џобс отворено ги припишува своите креативни пробиви на психоделичните искуства. Тој вели: Стив Џобс 
 
 „Употребата на ЛСД беше длабоко искуство, една од најважните работи во мојот живот. ЛСД ви покажува дека има друга страна на монетата, и не можете да се сетите кога ќе се истроши, но го знаете тоа. „Употребата на ЛСД беше длабоко искуство, една од најважните работи во мојот живот. ЛСД ви покажува дека има друга страна на монетата, и не можете да се сетите кога ќе се истроши, но го знаете тоа. (стр. 37 од Поглавјето: „Одлуката“) Ако халуцинацијата може да му помогне на човекот да го види светот поинаку, може ли халуцинацијата да му служи на истата цел? When Hallucination Becomes a Creative Compass Кога халуцинацијата станува креативен компас Може ли халуцинацијата, кога е ставена во вистинскиот контекст, да биде повеќе од само недостаток? Во области каде што прецизноста е секундарна на визијата, како што се уметноста, раскажувањето приказни или дизајнот, можеби не гледаме на грешка, туку на неочекувана карактеристика. Имагинација Истражував како таканаречените халуцинации на DALL-E ги претвориле грубите скици на децата во жива, целосна илустрација. Во мојата претходна статија Но, можеме ли да одиме понатаму? Но, можеме ли да одиме понатаму? Како уметник, ја знам тежината на креативниот блок. Таа тивко се шири, а потоа останува подолго отколку што треба. Колку повеќе се обидувате да ја принудите оригиналноста, толку повеќе вашите идеи се враќаат во истите познати шеми - безбедни, предвидливи и неинспирирани. Што ако генеративната АИ не е само алатка, туку еден вид на Не за да ја замениме човечката имагинација, туку да ја разбудиме.За да предложиме патеки што никогаш нема да одиме сами.Можеби, во просторот помеѓу прецизноста и грешката, наоѓаме нешто подобро: Креативна медицина surprise. Logic Is Your Enemy Логиката е вашиот непријател Нашите умови се насочени кон . Кога гледаме замок, замислуваме принцеза. куче? веројатно ловење на топка. Кохерентност Ова автоматско препознавање на обрасци е неверојатно корисно за секојдневниот живот - ни помага да го движиме светот брзо и ефикасно. во нашите мозоци. кутии кои Нашиот креативен потенцијал boxes limit The Categorisation Trap: Your Brain Loves a Story Категоризација стапица: Вашиот мозок сака приказна Ајде да ги погледнеме следните картички: Сега замислете дека ве замолив да ги групирате во 3 еднакви категории.Повеќето умови веднаш би го виделе ова: 
 
 
 
 Ноќно небо со месечина, облак и ѕвезда Чај партија сцена со маса, парче торта, а можеби и чајник Шум со лисица, дрво и печурка Можеби ќе додадете варијација – можеби вашата лисица ја убодува печурката, или можеби ако сте покреативни од просечниот човек, седи до огнот, го грее на стапката. Контекстот нè заклучува во рамка. we still stick to the script И кога сите работат од иста рамка... уникатноста умира малку. Breaking the Context (on purpose) Прекинување на контекстот (намерно) Ајде сега да го скршиме. Ајде да го исфрлиме очекуваното и да ги фрлиме нашите логички инстинкти надвор од прозорецот. Сликата на оваа група наместо: Да ја оспориме логиката во корист на неограничената креативност. 
 
 
 
 
 
 A moon 
 
 A fox 
 
 A table Вашиот мозок само застана, нели? Веројатно не можевте да креирате визуелно.Или ако го направивте тоа, се чувствуваше раздвоено, апсурдно, па дури и непријатно. Но погодете што не се бори? генеративна АИ, се разбира. Да го претставиме следното групирање наместо: И сега, ајде да уживаме во неограничената имагинација на DALL-E 3. Starts Celebrating Birthday with a Mushroom Cake Започнете го роденденот со торта од печурки Tree Drinking Tea inside a Cloud Дрво пие чај во облак Fox and Moon Tea Party Фокс и Месечината чај партија Free from Human Logic Слобода од човечката логика DALL-E беше во можност лесно да се меша концепти кои никогаш не се случуваат во реалниот свет (халуцинации). Зошто постои таква разлика помеѓу нашите умови и неговото размислување? Луѓето имаат тенденција да се засноваат на Кога ни се бара да замислиме сцена која вклучува месечина, лисица и маса, нашите мозоци инстинктивно се обидуваат да го направат тоа. Нашите умови бараат логика, контекст или метафора, и кога не можеме да најдеме една, ние често застануваме или се откажуваме. Не на случајноста. meaning, coherence, and lived experience make sense of the combination optimised for relevance DALL-E, од друга страна, не се потпира на лична меморија или линеарна логика. И да го изложиме на Многу од нив се невообичаени или дури и суреални. Значи, кога ќе го поттикнете со неповрзани елементи како месечина, лисица и маса, не се двоуме или се прашува дали врската „има смисла“. Како се појавуваат овие предмети Дури и ако е индиректно. billions of images and captions countless visual combinations - statistical patterns together, near each other, or in similar visual contexts Со други зборови: 
 
 
 На луѓето им е потребна конзистентност. Дол-Е само треба корелација. И во тоа лежи нејзината моќ: ослободувајќи се од човечката потреба за логика или внатрешна конзистентност, DALL-E може да И сето тоа без самото претпоставување. confidently generate the absurd, the poetic, or the beautifully strange - A Human’s Muse Човечката муза Ние сме научени да се плашиме од халуцинации - со право во многу области. Во медицината, правото, историјата и безбедносните системи, вештачката интелигенција мора да се држи до повисок стандард на вистина. Самиот "недостаток" што ја прави вештачката интелигенција несигурна како фактички извор може да биде она што ја прави толку моќна како Халуцинацијата, во вистинските раце, станува нешто сосема друго: . creative companion a spark Кога DALL-E „погрешно ги разбира“ лисицата, месечината и масата, тоа не пропаѓа. Таа нè поканува да ја ослободиме логиката, да видиме што се случува кога ќе се откажеме од приказната и ќе ја прифатиме можноста. dares Овој феномен може да ја излечи блокадата на уметникот, помагајќи му на нашиот ум да го олабави контекстот и логиката, може да ја поттикне креативноста и да предизвика идеи кои би можеле да бидат надвор од нашето сфаќање. Значи, можеби вистинското прашање не е "Можеме ли да спречиме АИ да халуцинира?" 
 
 Можеби тоа е: што можеме да изградиме кога ќе му дозволиме да сонува? Можеби тоа е: What can we build when we let it dream? За мене За мене Јас сум Марија Питерберг - експерт за вештачка интелигенција, кој го води тимот за софтвер Runtime во Хабана Лабс (Интел) и полупрофесионален уметник кој работи на традиционални и дигитални медиуми.

This story contains new, firsthand information uncovered by the writer.

The writer is smart, but don't just like, take their word for it. #DoYourOwnResearch before making any investment decisions or decisions regarding your health or security. (Do not regard any of this content as professional investment advice, or health advice)

Read My Stories

Ова аудио е произведено на оригиналниот јазик на приказната!

Добредојдовте во музејот на халуцинации

About Author

КОМЕНТАРИ

ВИСЕТЕ ТАГОВИ

ОВОЈ СТАТИЈА БЕШЕ ПРЕТСТАВЕН ВО

Related Stories

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps