Фото белого ST-Link твое? Зачем ты воткнул кабель в разъем для
8-битного STM8? Подключаться надо только к 20-пиновому разъему. Распайка здесь:
https://www.segger.com/products/debug-probes/j-link/technology/interface-description/#swd-and-swo-also-called-swv-compatibility
"SWD Connector Pinout"
В самом минимальном подключении нужно подключить "дюпонами" SWDIO (7), CLK (5), GND (10), VTref (1) к +3.3v питания микроконтроллера.
Подключение VTref (1я нога разъема) нужно только если твой ST-Link фирменный, в чем я сильно сомневаюсь. Если он кулен на али, то даже если он внешне выглядит также как фирменный, внутри это подделка, упрощенная схема и VTref никуда не заведен. А также, по-моему и сигналы Reset и SWO. Китайская подделка это все тот же "свисток" засунутый в корпус как у фирменного ST-Link/V2 от фирмы ST. Надёжно убедиться что к чему можно разбором, для этого снизу аккуратном феном подогревается и бритвочкой-скальпелем медленно отводится наклейка. Под наклейкой шурупы. Разбираем и смотрим на плату. Схема оригинального "белого" ST-Link V/2 а также BOM (список деталей) лежит прямо на самом сайте ST.