- 1 Co się zmieni na egzaminie ósmoklasisty 2025? (15 opinii)
- 2 Był "laptopa dla czwartoklasisty" - co zamiast? (17 opinii)
- 3 Nawet 1000 zł za wyprawkę szkolną dla dziecka (19 opinii)
- 4 Praca w branży edukacyjnej. Warto? (96 opinii)
- 5 Nowe wymagania na maturze 2025. Co się zmieni? (83 opinie)
- 6 Nauczyciele mogą składać wnioski o nowe świadczenie (192 opinie)
Czy powinniśmy się bać sztucznej inteligencji? "Nie możemy ufać własnym oczom"
Czy chat GPT to rzeczywiście przełom? Czy już wkrótce będziemy wykorzystywać narzędzia sztucznej inteligencji w pracy, a może wręcz ją stracimy na rzecz nowych technologii? O wyzwaniach, jakie niesie rozwój algorytmów, porozmawialiśmy z dr hab. inż. Piotrem Szczuko z Katedry Systemów Multimedialnych Politechniki Gdańskiej.
Dr hab. inż. Piotrem Szczuko: Sztuczna inteligencja jest rozwijana od dziesiątków lat, natomiast ostatni czas przyniósł ogromny postęp dotyczący mocy obliczeniowej, która jest potrzebna, aby odpowiednio wydajnie trenować algorytmy i tym samym, aby poprawnie działały. Druga rzecz to dostępność danych - z roku na rok coraz więcej usług działa w Internecie, w chmurach, a zasoby i dane są coraz bardziej dostępne np. pełne teksty prac naukowych, wpisujące się w trend otwartej nauki, hasła Wikipedii i porady profesjonalistów. To wszystko jest inspiracją do tworzenia nowych inicjatyw, a twórcy algorytmów mają coraz lepsze podstawy, aby proponować coś pomysłowego.
W przypadku mocy obliczeniowej można stosunkowo tanio wynająć usługi we wspomnianej chmurze, które pozwalają przeprowadzić obliczenia bez potrzeby inwestowania w ogromną infrastrukturę serwerową. Te dwa trendy zbiegły się i napędzały rozwój np. algorytmu GPT, a także tych generujących obrazy, jak Midjourney czy Stable Diffusion - potrafiące na podstawie tekstu wyjściowego stworzyć bardzo realistyczny obraz, pejzaż czy grafikę np. Gdańską Starówkę stylizowaną na obraz van Gogha.
![Sztuczna inteligencja wykryje nowotwór? Aplikacja doktorantki z PG](https://s-trojmiasto.pl/zdj/c/n/2/2904/150x100/2904481__kr.webp)
Niektórzy wieszczą, że jest to przełom porównywalny z odkryciem Internetu.
Jestem bardzo sceptyczny i nie nazywałbym tego przełomem. Jesteśmy przyzwyczajeni, aby myśleć o algorytmach jako o sztucznej inteligencji, ale one nie mają ludzkich cech, nie są inteligentne. Świetnym przykładem są najnowsze eksperymenty w postaci chatu GPT w wersji 4, który został zintegrowany z wyszukiwarką internetową. Użytkownikowi wydaje się, że rozmawia z odrębnym bytem, drugim człowiekiem, z ekspertem. To jest mylne, bo algorytmy zaskakują nas tym, że potrafią konstruować długie wypowiedzi, które jednak tylko pozornie mają sens. Tymczasem sposób generowania tekstu jest narażony na błędy. To jest algorytm statystyczny - chat GPT uczy się i analizuje, że skoro na ekranie pojawiły się konkretne słowa, to najbardziej prawdopodobnym dalszym ciągiem jest kolejne słowo. To tylko statystyczna zależność. Algorytmy przytaczają zmyślone fakty, przeinaczają daty, mają problem z prostymi logicznymi zagadkami czy interpretowaniem intencji pytającego. Takich drobiazgów jest dużo i pokazują wady tego systemu.
Czy już wkrótce będziemy wykorzystywać algorytmy w pracy?
Trudno powiedzieć. Robię rozmaite próby z tymi algorytmami i dostrzegam zalety i wady. Można założyć, że kiedyś będzie to przydatne naukowcom, którzy np. potrzebują streszczeń dużej liczby prac. To może przyśpieszyć pracę, choć jak wspomniałem, jestem sceptyczny, bo nadal są popełniane błędy. W ostatnim czasie poprosiłem o streszczenie książki, którą przeczytałem, a więc pozornie prostą rzecz. Algorytm sięgał do zasobów i mieszał fakty z różnych źródeł - wymieszał definicje w profesjonalnej wypowiedzi, a innym razem bohaterów opowieści w streszczeniu. Kiedyś zapytałem też o podstawy przetwarzania języka naturalnego, czyli natural language processing, a chat pomieszał to z programowaniem neurolingwistycznym. Połowa wypowiedzi była prawidłowa, a potem był "przeskok na inne tory", bardzo szkodliwy, bo potencjalnie niezauważalny dla osoby niezaznajomionej z tematem.
![Nowy samochód badawczy z PG pomoże w utrzymaniu dróg](https://s-trojmiasto.pl/zdj/c/n/2/3412/150x100/3412892__kr.webp)
Rozwijanie tych technologii i poprawa błędów to kwestia czasu?
Postęp GPT w kolejnych wersjach jest tak dynamiczny i tak szybki, że za chwilę pewnie ujrzymy wersje niemające tych błędów. Będzie można je włączyć do codziennej pracy np. tworzenia podsumowań tekstów, streszczania korespondencji mailowej. To będzie przyspieszało wiele naszych zadań. Na pewno Chat GPT może być doskonalszy. Natomiast oczekiwałbym, aby kolejne kroki rozwoju polegały na stworzeniu procedur niekoniecznie opartych o sztuczną inteligencję, ale o sprawdzanie wiarygodnych źródeł - pozwalające wręcz na automatyczne sprawdzanie faktów. Wikipedia jest moderowana przez użytkowników, którzy dbają o jej wiarygodność, chat GPT próbuje to robić, ale w tym momencie miesza różne źródła całkowicie chaotycznie. Co ciekawe, w ostatnim czasie Google ogłosiło nowe narzędzie o nazwie Bard, podkreślając, że algorytmy się mylą i to użytkownik ma stać na straży rzetelności. Bard nawet informuje, że jest możliwość generowania trzech różnych odpowiedzi i to na nas spoczywa odpowiedzialność ich wyboru i weryfikacji.
- Nie obawiam się, że to się wyrwie spod kontroli, bo wciąż algorytmy są uruchamiane przez odpowiedzialne korporacje. Firmy są świadome - mają własne działy poświęcone etyce, zrównoważonemu rozwojowi.Pojawiają się teorie, że sztuczna inteligencja nam zagraża, że może przestać być kontrolowana.
Nie obawiam się, że to się wyrwie spod kontroli, bo wciąż algorytmy są uruchamiane przez odpowiedzialne korporacje. Firmy są świadome - mają własne działy poświęcone etyce, zrównoważonemu rozwojowi. Jako użytkownicy również mamy wpływ na to, komu będziemy ufali i z czego będziemy korzystać. Oczywiście powinniśmy wdrażać regulacje prawne, ale najważniejsza jest edukacja i świadomość, że nie można ufać temu, co się widzi, temu co się słyszy, bo algorytmy są w stanie wygenerować pozornie wiarygodne rzeczy, które nie mają nic wspólnego z prawdą. Największym zagrożeniem jest nasze lenistwo. Jeśli poprosimy o wygenerowanie pracy na zaliczenie, to będą tego konsekwencje. Jest duże ryzyko, że tekst będzie pełen niespójności logicznych i faktów wymyślonych przez algorytm, co jest nazywane halucynacją. Nie mówię tylko o ewentualnym oblaniu, ale materiał pojawi się w bazach, będzie powielany nieintencjonalnie bez zamysłu autora i tym samym będzie generował błędy w przyszłości. Jako wykładowcy staramy się uświadamiać studentów o tych zagrożeniach i uczyć społeczeństwo, jak bezpiecznie korzystać z nowych technologii. Przede wszystkim ważny jest fact checking, weryfikacja.
![Sieci neuronowe, sterowanie pojazdów falami EEG i blockchain. PG wyróżniła projekty badawcze](https://s-trojmiasto.pl/zdj/c/n/2/3386/150x100/3386652__kr.webp)
Ostatnio widzieliśmy fałszywe zdjęcia Donalda Trumpa pojmanego przez policję.
Jeszcze raz powtórzę, powinniśmy ostrzegać odbiorców mediów, że nie możemy ufać własnym oczom. Technologia deep fake to już nasza codzienność i nie jesteśmy się w stanie przed tym bronić. Pozostaje jedynie rzetelność dziennikarska. Z drugiej strony, im więcej będzie takich przykładów jak fejki z osobami publicznymi czy znanymi aktorami, tym bardziej będziemy rozumieć, jak to działa. Potrzebne są również narzędzia weryfikacji - na przykład wyraźne oznakowanie niezweryfikowanych kont w mediach społecznościowych, aby użytkownik od razu miał możliwość oszacowania wiarygodności źródła. Algorytm, który wnosi coś do obrazu, powinien również generować podpis wskazujący na zmiany, tak jak narzędzie bing create firmy Microsoft. Na poziomie Unii Europejskiej mamy rekomendacje AI Act określające zalecenia stosowania takich algorytmów i zobaczymy, jak konkretne kraje będą wdrażały ten dokument. Są również cele nieszkodliwe, takie jak rozrywka czy cele artystyczne. Należy pamiętać, że jest to narzędzie i tylko od człowieka zależy, do czego je wykorzysta.
Widzimy jednak, jak sztuczna inteligencja wchodzi w inne obszary nauki np. diagnostyki medycznej.
Mówimy tu o różnych technologiach. Zadaniem GPT jest tworzenie czy wymyślanie tekstu. Z kolei w zagadnieniach medycznych głównym wyzwaniem jest klasyfikacja, technologia ma nauczyć się pracować na rzeczywistych danych. Nie ma wymyślać nowych danych, a precyzyjnie odróżniać wzorce. To jest ogromny plus rozwoju sztucznej inteligencji, że taką specjalistyczną wiedzę prawie bezkosztowo można powielać i stosować w każdym ośrodku medycznym na świecie. Algorytmy pozwalają przykładowo odtwarzać struktury białek, co jest potrzebne przy tworzeniu nowych leków, stwierdzać, które substancje chemiczne mogą wejść w skład nowych, eksperymentalnych leków. Potrafią wreszcie diagnozować różne choroby z obrazu tomograficznego czy rentgenowskiego. To działa coraz lepiej i pokładamy w tym ogromną nadzieję. Mówi się również o zastępowaniu niektórych zawodów przez AI, ale kompetencje ludzkie są potrzebne nawet w świecie zdominowanym przez algorytmy, przede wszystkim do podejmowania ostatecznej i odpowiedzialnej decyzji na podstawie sugestii podsuwanych przez algorytm.
Czy w Pana Zakładzie również trwają prace w oparciu o sztuczną inteligencję?
Nasz zespół, czyli Katedra Systemów Multimedialnych, od wielu lat zajmuje się wykorzystaniem sztucznej inteligencji do przetwarzania danych multimedialnych i biometrycznych. Mówię przykładowo o analizie sygnałów EEG w celu określenia poziomu świadomości osób sparaliżowanych, wykrywania intencji ruchu u takiej osoby albo o analizie akustycznej czy wideo w celu określania zdarzeń np. z kamer monitoringu, zdarzeń niebezpiecznych czy wypadków. Zrealizowaliśmy oparty na tej koncepcji projekt "INZNAK - inteligentne znaki drogowe", a w tym roku kończymy kolejny "INFOLIGHT - Chmurowa platforma oświetleniowa dla inteligentnych miast", który ma na celu opracowanie automatycznych algorytmów sterujących oświetleniem w mieście. Jeśli jest pora spokojna i mamy niewielki ruch uliczny, to możemy zmniejszać zanieczyszczenie światłem, ograniczać zużycie energii. Na razie testujemy to na kampusie - mamy kilka inteligentnych lamp z czujnikami - nawet nie używamy kamer, a całość bazuje na monitorowaniu podczerwieni i czujników akustycznych. Gdy oprogramowanie wykryje większe natężenie ruchu, automatycznie rozświetlają się lampy przed obiektami. Chodzi więc o optymalizację oświetlenia - niebieskie światło jest dobre dla kierowców, ale w mieście, a dokładniej przy zabudowie mieszkalnej, takie światło się nie sprawdza, bo zaburza poziom melatoniny i tym samym nasz odpoczynek. Projekt był finansowany ze środków Programu Operacyjnego Inteligentny Rozwój, organizowanego przez Narodowe Centrum Badań i Rozwoju.
We współpracy z lekarzami z Gdańskiego Uniwersytetu Medycznego rozpoczynamy wkrótce projekt "ADMEDVOICE - Adaptacyjny system inteligentnego przetwarzania mowy lekarzy wraz ze strukturalizacją wyników badań i wspomaganiem procesu terapeutycznego".
Śledzimy ciągle postępy badań nad sztuczną inteligencją na świecie i wdrażamy najnowsze technologie do programu kształcenia. W tym celu od 2021 roku realizujemy projekt "AI Tech - akademia innowacyjnych zastosowań technologii cyfrowych", finansowany z Programu Operacyjnego Polska Cyfrowa, którego rezultatem jest uruchomienie dwóch nowych specjalizacji na studiach II stopnia (magisterskich) na wydziale Elektroniki, Telekomunikacji i Informatyki w Politechnice Gdańskiej, dedykowanych sztucznej inteligencji i uczeniu maszynowemu.
Miejsca
Opinie (88) 8 zablokowanych
-
2023-04-12 01:55
Przez takie rzeczy wybuchaja wojny domowe i swiatowe
- 1 0
-
2023-04-12 01:57
Jak padnie ogolno swiatowy internet to bedzie tragedia
Na miare epoki lodowcowej
- 5 0
-
2023-04-12 02:13
Sądzę
Myślę, że nie warto tylko musimy, gdyż nie jesteśmy doskonali, napewno trzeba też rozwiązać problem demograficzny np, sztuczna hodowla ludzi gdyż kobiety nie chcą rodzić i grozi nam wyginięcie
- 0 0
-
2023-04-13 00:44
Nie karmić trola
To sam umrze śmiercią naturalną. Każdy kto umieszcza treści w necie lub pisze programy, które służą rozwojowi tego narzędzia przyczynia się do tego, że to się wymknie spod kontroli, bo znajdą się oszołomy, które zechcą kontrolować innych ludzi. Jeśli chcemy mieć wpływ na przyszłość to rozwijajmy ją mądrze.
- 1 0
-
2023-04-13 08:49
jaka inteligencja?!
Przeciez to stara, swojska statysyka, z ktora wiekszosc ludzi ma pojeciowe problemy.
To, co sie zmienilo, to wydajnosc skladowania i przetwarzania danych...
Reszta to "buzz", "noizz" i jarmarczna sciema.- 0 0
-
2023-04-14 09:08
Oczywiście, że tak - należy się bać. Ta technologia to TOP, zmieni strukturę społeczną. I nie - nie wygeneruje więcej miejsc
Powstaną nowe zawody dla garstki, ale masy będą bezrobotne. Stąd eksperymenty z dochodem gwarantowanym i krótszym tygodniem pracy.
"Analitycy portalu Business Insider zidentyfikowali 10 zawodów, które w niedalekiej przyszłości mogą całkowicie lub częściowo zniknąć ze względu na rozwój sieci neuronowych. W tym:
1, praca w środkach masowego przekazu (dziennikarze, redaktorzy, CEO);
2, specjalności techniczne (programiści, programiści, analitycy danych, inżynierowie oprogramowania);
3, praca w dziedzinie orzecznictwa (asystenci prawni, asystenci prawni);
4, wakaty finansowe (konsultanci i analitycy);
5, handlowcy;
6, nauczyciele;
7, księgowi;
8, graficy;
9 specjalistów serwisu wsparcia.
10, marketerzy;
Według badań Uniwersytetu Oksfordzkiego z 2013 r., w ciągu następnych 20 lat około 47% miejsc pracy w USA może zostać zlikwidowanych z powodu sztucznej inteligencji. Prognozy wydają się jednak dość optymistyczne.
Według niedawnego badania przeprowadzonego przez Goldman Sachs, generatywna sztuczna inteligencja mogłaby zastąpić 300 milionów profesjonalistów na całym świecie, prowadząc do znacznych zakłóceń na rynku pracy.
Jednocześnie eksperci w dziedzinie sztucznej inteligencji są przekonani, że innowacja może tylko pomóc w pracy, ale nie może zastąpić człowieka. Ludzie będą musieli kontrolować sztuczną inteligencję, aby uniknąć błędów.
ChatGPT wyprzedził nawet TikTok pod względem tempa wzrostu. W połowie marca chatbot został zaktualizowany do modelu językowego GPT-4. Sieć neuronowa może teraz rozpoznawać zarówno tekst, jak i obrazy, a nawet wyjaśniać znaczenie memów. Wersja GPT-5, która zostanie wydana pod koniec roku, ma osiągnąć niewiarygodny poziom II.
"- 0 0
Portal trojmiasto.pl nie ponosi odpowiedzialności za treść opinii.