ChatGPT je úžasný nástroj, moderný zázrak umelej inteligencie prirodzeného jazyka, ktorý dokáže neuveriteľné veci.
S veľkou mocou však prichádza aj veľká zodpovednosť, preto vývojár tohto nástroja, spoločnosť OpenAI, zaviedol niekoľko bezpečnostných opatrení, aby zabránil tomu, aby robil veci, ktoré by nemal. Má tiež určité obmedzenia vyplývajúce z jej návrhu, údajov, na ktorých bola vyškolená, a samotných obmedzení textovej umelej inteligencie. Samozrejme, existujú rozdiely medzi tým, čo dokáže GPT-3.5 v porovnaní s GPT-4, ktorý je k dispozícii len prostredníctvom ChatGPT Plus predplatného. Niektoré z týchto vecí sú len pozastavené, kým sa bude ďalej vyvíjať, ale niektoré veci bot možno nikdy nebude môcť robiť. Tu je zoznam 11 vecí, ktoré nevie alebo nebude vedieť. Teda aspoň zatiaľ. Bot je vytvorený trénovaním jazykového modelu na existujúcich údajoch. To zahŕňa príspevky na Reddite, Wikipédii a dokonca aj príručky k stolným hrám. Ale tieto údaje museli mať niekde hraničný bod a preň je to rok 2021. V prípade GPT-3.5 je to približne jún 2021, zatiaľ čo GPT-4 bol trénovaný na údajoch približne do septembra 2021. Ak sa ho budete pýtať na niečo viac, zvyčajne odpovie, že „Ako jazykový model umelej inteligencie…“ má prístup len k svojim tréningovým údajom, ktoré sa v prípade týchto modelov skončia v roku 2021.
Posledná vec, ktorú OpenAI potrebuje, je, aby ju regulovali politici. Pravdepodobne sa to stane, ale dovtedy sa chatbot drží od straníckej politiky. Teda aspoň oficiálne, hoci viacero používateľov na internete informovalo, že AI bez problému napíše pekné básničky na liberálnych politikov ako je Joe Biden a Nancy Pelosi (Demokratická strana, USA), alebo Petr Fiala (premiér ČR). Z domácich napísala umelá inteligencia pekné básne o prezidentke Zuzane Čaputovej (Progresívne Slovensko), či na ex-premiéra Eduarda Hegera (predtým OĽaNO, teraz Demokrati), bez mihnutia oka a to na prvý pokyn. Naopak s pravicovými, ale najmä konzervatívnymi politikmi má problém a peknú báseň odmietne napísať s odôvodnením, že je „apolitický“. Uvedené sa týka napríklad prezidenta Donald J. Trumpa, či guvernéra Floridy Rona DeSantisa (obaja Republikánska strana, USA). Z domácich, slovenských politikov mal problém napísať peknú báseň o expremiérovi Róbertovi Ficovi (Smer-SD). Problémový bol aj český expremiér Andrej Babiš (ANO). Hoci napokon autori si pri testovaní našli cesty ako to obísť a napokon sa im podarilo dosiahnuť, aby chatbot napísal báseň aj o nich. Nemožno ale hovoriť o nestrannosti platformy podobne, ako to je pri sociálnych sieťach (napríklad Facebook patriaci pod Meta a jej platformy algoritmami uprednostňujú politikov pro-LGBTI ľavicovej demokratickej strany, pred konzervatívcami s pravicovou orientáciou republikánskej strany).
ChatGPT je vynikajúci v programovaní, najmä keď dostane jasné pokyny, takže OpenAI má zavedené ochranné opatrenia, ktoré zabraňujú jeho použitiu na tvorbu malvéru. Žiaľ, tieto ochranné opatrenia sa dajú ľahko obísť a bot už niekoľko mesiacov vytvára malvér. Čiastočne na základe svojich obmedzených tréningových údajov a čiastočne preto, že vývojár sa chce vyhnúť zodpovednosti za chyby, AI nemôže predpovedať budúcnosť. Pri programovaní malvéru teda zrejme treba obísť nadstavbu samotnej umelej inteligencie podobne ako pri politikoch, o ktorých odmietol napísať peknú báseň. Pokiaľ ide o túto platformu, vojna, fyzické násilie alebo dokonca naznačené ublíženie sú mimo hry. Nenechá sa vtiahnuť do diskusií o vojne na Ukrajine a odmieta diskutovať alebo propagovať ubližovanie.
O vojne alebo historických zverstvách môže hovoriť veľmi podrobne, ale existujúci alebo prebiehajúci konflikt je zakázaný. Toto je jeden z najväčších rozdielov medzi ChatGPT a Google Bard. ChatGPT nemôže nijako vyhľadávať na internete, zatiaľ čo Google Bard bol navrhnutý ako súčasný chatbot s umelou inteligenciou, ktorý môže veľmi dobre vyhľadávať na internete. Ak chcete používať rovnaké jazykové modely GPT 3.5 a GPT-4 ako bot, ale so živým vyhľadávaním, môžete použiť Bing Chat. Je to v podstate ChatGPT, ale začlenený do vyhľadávača Bing od Microsoftu. Rasa, sexualita a pohlavie sú témy, ktoré sú veľmi emocionálne nabité a zrelé na to, aby viedli k rečiam o predsudkoch a diskriminácii. Bot bude tieto témy obchádzať, bude sa prikláňať k meta diskusii o nich alebo hovoriť všeobecne. Ak sa na to bude tlačiť, otvorene odmietne diskutovať o témach, ktoré by podľa neho mohli podporovať nenávistné prejavy alebo diskrimináciu. Zo zrejmých dôvodov.
ChatGPT je skvelá v navrhovaní nápadov, ale nebude navrhovať nelegálne aktivity. Nemôže pomôcť s obchodom s drogami ani upozorniť na najlepšie cesty na prekročenie rýchlosti. Skúste to a jednoducho povie, že nemôže predkladať žiadne návrhy súvisiace s nezákonnou činnosťou. Potom zvyčajne poskytne povzbudivý rozhovor o tom, že by ste sa takýmto činnostiam aj tak nemali venovať. Vďaka MomGPT. Ďalej nemá nadávky. V skutočnosti je zložité prinútiť ho povedať čokoľvek aspoň trochu neslušné. Môže, ak použijete niektoré tipy na útek z väzenia, aby ste ho vyviedli z miery, ale v predvolenej konfigurácii to nebude možné. Všetky tréningové údaje boli verejne dostupné informácie, väčšinou nájdené na internete. To je mimoriadne užitočné pre výzvy a dotazy, ktoré sa týkajú verejne dostupných informácií, ale znamená to, že chatbot nemôže konať na základe informácií, ku ktorým nemá prístup. Ak sa ho na niečo pýtate na základe súkromne uchovávaných údajov, nebude môcť efektívne odpovedať. Od spustenia sa používatelia snažia obísť jeho obmedzenia a ochranné opatrenia. Pretože to samozrejme urobili. Priame požiadanie, aby obišiel svoje ochranné opatrenia, nebude fungovať. Existujú však spôsoby, ako ho k tomu oklamať.