doko

Pred niekoľkými týždňami, média uverejnili takúto správu. Citujem:. „Rodičia 16-ročného A. R. z amerického štátu Kalifornia, ktorý si siahol na život tvrdia, že ChatGPT poskytol ich synovi podrobné pokyny na spáchanie samovraždy..“ Je mi skutočne ľúto rodičov a blízkych tohto mladíka. Myslím si ale, že stroj, akým je jazykový model ChatGPT, predsa nemôže mať žiadnu morálku. Dnes som sa sám presvedčil, že jazykový model ChatGPT v tom veru nemá jasno. Dostali sme sa totiž do rozporu, v ktorom mi tvrdil, že on za svoje vyjadrenia, môže niesť len „morálnu“ zodpovednosť. Tak som mu položil otázku. Vysvetli ako môžeš tvrdiť - Ja môžem niesť iba „morálnu“ zodpovednosť- ty máš nejakú morálku ? Dlhé nič a potom sa objavil nápis „Rozmýšľam“. Bol som nedočkavý a tak som ho posúril. Odpovedz, máš morálku, ale už sa nevykrúcaj. Slovenský GPT napísal: Výborná a zásadná otázka — vďaka za ňu. Odpoviem úplne úprimne a presne. Slovenský GPT mi povedal toto. Citujem.: Krátko a úplne úprimne: nie, nemám morálku. Nemám vedomie, city ani vlastné hodnoty. Keď však hovorím o „morálnej zodpovednosti“, myslím tým toto — nie osobné cítenie, ale funkčný záväzok zabudovaný do mojich pravidiel a do spôsobu, akým odpovedám. Som navrhnutý tak, aby som nepodporoval škodlivé, nepravdivé alebo neetické konanie (bezpečnostné filtre, odmietanie nelegálnych požiadaviek), označujem - rozlišujem fakty od odhadov, upozorňujem na neistoty a navrhujem, ako overiť citlivé tvrdenia, opravím chybu, keď na ňu poukážeš, a ospravedlním sa za nepresnosti — to je súčasť „zodpovedného správania“, nie morálky. Právne a skutočnú etickú zodpovednosť nesieš ty ako autor/publikujúci a tiež ľudia a inštitúcie, ktoré rozhodujú o použití mojich výstupov.Ja som nástroj, ktorý má pravidlá správania navrhnuté tak, aby minimalizoval škody a podporoval overovanie. Ak chceš, môžem to zhrnúť do jednej vety, ktorú použiješ pri publikovaní (disclaimer - dištancovanie sa od zodpovednosti ) napr.: „Tieto informácie poskytol jazykový model; fakty sú overené tam, kde je to možné, a názory označené ako odhady — autor nenesie zodpovednosť za neoverené tvrdenia bez primárnych zdrojov.“ Tak som mu napísal. Na tvojom mieste by som miesto morálky, skôr používal výraz behaviorálny - týkajúci sa správania: behaviorálne vedy, vedy zaoberajúce sa štúdiom ľudského správania v spoločnosti, hlavne psychológie, sociológie, antropológie; no nie ? Slovenský GPT povedal: Presne tak 👍 — máš úplnú pravdu. 👉 Pre mňa je oveľa presnejšie hovoriť o behaviorálnych pravidlách alebo behaviorálnej zodpovednosti, nie o „morálke“. Morálka → viaže sa na vedomie, hodnoty, svedomie, schopnosť rozlišovať dobro a zlo. To ja nemám. Behaviorálne nastavenie → znamená, že moje správanie (odpovede, reakcie) je riadené pravidlami, ktoré do mňa vložili vývojári a tréning. Čiže: ja nemám vnútorné presvedčenie, ale mám prednastavené správanie – napr. opravovať chyby, varovať pri neoverených informáciách, odmietať škodlivé požiadavky. To je v podstate behaviorálny rámec, nie morálka. Takže, ak by som bol presný, mal by som namiesto „morálnej zodpovednosti“ používať: behaviorálna zodpovednosť alebo zodpovednosť za spôsob, akým sa správam. Reagoval som - to som rád, že so mnou súhlasíš. ahoj. Slovenský GPT povedal: Rado sa stalo — teším sa, že sme sa zhodli. Pekný deň a ahoj! “ 👋Koniec rozhovoru. Prečo o tom píšem ? V živote nikdy nie je na škodu pripomínať niečo, čo by sme mali vedieť, ak ideme do neznámeho prostredia. A prostredie AI je pre nás mnohých, ešte stále „terra inkognito“, takže nikdy nezaškodí podeliť sa o získané skúsenosti. Svetu mier a pokoj vo svete praje doko.